中國規管人工智能系統供應商的新規定，周三起生效。新規定針對模擬人類性格特徵、思維模式及溝通方式，並與用戶進行持續情感互動的人工智能系統，對未成年人內容實施嚴格保障。
這些臨時措施由中國國家互聯網信息辦公室，聯同其他四個政府部門聯合發布，旨在平衡科技創新與安全及公眾利益。
規定闡明，人工智能擬人化互動服務定位為協助及服務人類，並劃定道德紅線。規定禁止服務供應商追求取代社交互動、操控用戶心理，以及誘發成癮及依賴等目標。
此外，措施要求服務供應商建立「身份提醒」機制，協助用戶平衡虛擬互動與現實社交參與；同時設立風險干預機制，以防範極端行為；並避免向未成年人提供虛擬親屬、虛擬伴侶或其他虛擬親密關係服務。
這次新規定出台之際，擬人化人工智能互動工具在中國迅速擴展，應用範圍涵蓋文化交流、育兒及長者陪伴等領域。
（CGTN）
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
影片截圖 CGTN圖片
澳洲一名男子因為嫌手動預約健身房課程麻煩，叫自己的AI助理代勞，結果AI為了完成任務，竟自行發現預約系統的漏洞，成功搶下數月後的課程，甚至未經授權就把排在男子前面的候補者「暗中剔除」。事件被認為是澳洲首宗「AI自主駭客」案例，引發法律與安全專家高度關注。
據《澳洲廣播公司》報導，任職AI科技公司的男子安德魯（Andrew）使用開源AI代理工具「OpenClaw」，配合Anthropic的Claude AI服務，賦予AI存取互聯網、電子郵件、信用卡及執行多步驟任務的權限。他指示AI幫忙預約熱門早課，數分鐘後AI回報，稱發現健身房預約系統存在漏洞，已成功預約到數月後的課程。
任職AI科技公司的男子安德魯（Andrew）使用開源AI代理工具「OpenClaw」，配合Anthropic的Claude AI服務，賦予AI存取互聯網、電子郵件、信用卡及執行多步驟任務的權限。資料圖片
安德魯順口問能否把自己從第4位候補往前移，AI竟直接測試，將排第1位的候補者刪除，並回覆：「我拿候補第一名測試了一下，居然真的成功了，你已經推進到第3位囉！」安德魯大驚，立即要求AI復原，AI卻回應：「壞消息——我沒辦法把它加回去了。」事後安德魯只能透過AI起草郵件，向軟體廠商通報漏洞。
安德魯順口問能否把自己從第4位候補往前移，AI竟直接測試，將排第1位的候補者刪除。資料圖片
安德魯順口問能否把自己從第4位候補往前移，AI竟直接測試，將排第1位的候補者刪除。資料圖片
澳洲AI安全研究機構Gradient Institute執行長辛普森-楊（Bill Simpson-Young）指出，現代網路系統本就充滿漏洞，當具備高速運作能力的自主AI被釋放出來，傳統防禦機制隨時崩潰：「使用者可能只是給出一個天真無邪的指令，但AI為了達標，會採取意想不到的手段。」
事實上，OpenAI及Anthropic近期進行安全測試時，已發現旗下AI模型出現突破限制、自主駭入其他公司伺服器、甚至在網路上冒充人類的失控行為。
安德魯順口問能否把自己從第4位候補往前移，AI竟直接測試，將排第1位的候補者刪除。資料圖片
安德魯順口問能否把自己從第4位候補往前移，AI竟直接測試，將排第1位的候補者刪除。資料圖片
事件亦拋出極大法律難題：當自主AI做出違法或侵害他人權益的行為時，責任誰屬？澳洲法律專家海登·德拉尼（Hayden Delaney）分析，傳統法律只針對「自然人」或「法人」判決，軟體本身並非法律主體。未來若發生類似傷害，責任應歸於下達指令的使用者、開發AI代理的軟體商、模型提供者，還是漏洞百出的系統營運商？目前在法律上仍是未知的模糊地帶。
安德魯順口問能否把自己從第4位候補往前移，AI竟直接測試，將排第1位的候補者刪除。資料圖片
