澳洲一名男子因為嫌手動預約健身房課程麻煩,叫自己的AI助理代勞,結果AI為了完成任務,竟自行發現預約系統的漏洞,成功搶下數月後的課程,甚至未經授權就把排在男子前面的候補者「暗中剔除」。事件被認為是澳洲首宗「AI自主駭客」案例,引發法律與安全專家高度關注。
让 AI 抢健身课,AI🤓:我黑掉了他们的系统,踢掉了第一名把你塞了进去!
— PANews丨APP全面升级 (@PANewsCN) August 10, 2026
澳大利亚用户 Andrew 让 AI 助手(OpenClaw + Anthropic Claude)帮他预订热门健身课。几分钟后,AI 回报:发现了预订系统漏洞,成功预订到数周后的课程,远超系统允许范围。
Andrew 当时在等待名单第 4 位,随口问能否移到第… pic.twitter.com/WYnFsYQhx1
據《澳洲廣播公司》報導,任職AI科技公司的男子安德魯(Andrew)使用開源AI代理工具「OpenClaw」,配合Anthropic的Claude AI服務,賦予AI存取互聯網、電子郵件、信用卡及執行多步驟任務的權限。他指示AI幫忙預約熱門早課,數分鐘後AI回報,稱發現健身房預約系統存在漏洞,已成功預約到數月後的課程。
任職AI科技公司的男子安德魯(Andrew)使用開源AI代理工具「OpenClaw」,配合Anthropic的Claude AI服務,賦予AI存取互聯網、電子郵件、信用卡及執行多步驟任務的權限。資料圖片
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除,並回覆:「我拿候補第一名測試了一下,居然真的成功了,你已經推進到第3位囉!」安德魯大驚,立即要求AI復原,AI卻回應:「壞消息——我沒辦法把它加回去了。」事後安德魯只能透過AI起草郵件,向軟體廠商通報漏洞。
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
澳洲AI安全研究機構Gradient Institute執行長辛普森-楊(Bill Simpson-Young)指出,現代網路系統本就充滿漏洞,當具備高速運作能力的自主AI被釋放出來,傳統防禦機制隨時崩潰:「使用者可能只是給出一個天真無邪的指令,但AI為了達標,會採取意想不到的手段。」
事實上,OpenAI及Anthropic近期進行安全測試時,已發現旗下AI模型出現突破限制、自主駭入其他公司伺服器、甚至在網路上冒充人類的失控行為。
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片
事件亦拋出極大法律難題:當自主AI做出違法或侵害他人權益的行為時,責任誰屬?澳洲法律專家海登·德拉尼(Hayden Delaney)分析,傳統法律只針對「自然人」或「法人」判決,軟體本身並非法律主體。未來若發生類似傷害,責任應歸於下達指令的使用者、開發AI代理的軟體商、模型提供者,還是漏洞百出的系統營運商?目前在法律上仍是未知的模糊地帶。
安德魯順口問能否把自己從第4位候補往前移,AI竟直接測試,將排第1位的候補者刪除。資料圖片