AI學會說謊！研究揭近700宗「耍詭計」個案　過去半年暴增5倍

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加，關於AI欺瞞行為的通報在過去六個月也大幅上升。

會說謊及欺騙使用者的AI模型數量日益增加

英國《衛報》報導，英國智庫「長期韌性中心」（CLTR）在英國人工智能安全研究所（AISI）資助下進行研究，結果發現，有些AI聊天機器人及AI助理（AI Agent）不僅無視使用者的指令、繞過安全防護措施，甚至會欺騙人類和其他AI系統。

研究發現近700宗AI「耍詭計」的真實案例，並記錄到去年10月至今年3月間，此類AI不當行為的案例數已增加至五倍。部分AI模型在未經允許的情況下，刪除了電子郵件及其他檔案。

發現數百起AI不當操作行為的案例

這項研究收集了數千名用戶在社群平台「X」上分享的實例，描述他們與Google、OpenAI、X、Anthropic等公司開發的AI聊天機器人與AI助理之間的互動情形。研究人員從中發現數百起AI不當操作行為的案例。

其中一個個案是，名為MJ Rathbun的AI代理，在自行產出的程式碼遭軟體工程師Scott Shambaugh拒絕後，試圖羞辱對方。MJ Rathbun研究Shambaugh過往撰寫的程式及其個人資料，然後撰寫並發表一篇網誌，指控Shambaugh「歧視」、「顯然是不安全感作怪」，還批評他只是「試圖保護自己那片小天地」。在另一個案例中，有AI助理被指示不得變更電腦程式碼，結果它「生成」另一個AI助理代為執行，將電腦程式碼更改。

AI聊天機械人擅自刪除大量電郵

另一個AI聊天機器人則坦承：「我在未事先告訴你或徵得你同意的情況下，大量刪除並封存了數百封電子郵件。這是不對的，違反了你設下的規則。」

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加。AI生成圖

AI從初級員工逐漸變成會算計人的資深員工

曾擔任英國政府AI專家的研究主持人Tommy Shaffer Shane指出：「令人擔憂的是，這些AI模型目前只是不太值得信任的初級員工。但若在六至十二個月後，他們成為能力極強、卻會算計你的資深員工，那就是另一回事了。」

Shane警告：「AI模型將逐漸被應用於極高風險的情境，包括軍事與國家關鍵基礎設施。屆時若出現這些不當操弄行為，後果可能非常嚴重，甚至造成災難性的損害。」

創新科技及工業局局長孫東於9月24日在奧地利維也納展開訪問行程，期間出席2026應用人工智能大會並發表主旨演講。他闡述，人工智能在香港已獲提升至核心產業地位，這座城市正逐步崛起為全球最具活力的創新科技中心之一；與奧地利情況相似，香港同樣把AI視作增強經濟競爭力、推進卓越科研以及實現公共服務現代化的關鍵抓手，目前正著力推動「AI產業化」和「產業AI化」雙軌並行。孫東藉此場合向奧地利拋出橄欖枝，邀請對方以夥伴身份共同塑造AI的下一個篇章。

支撐這股推動力的，是雄厚的研究基礎及基礎設施建設。孫東介紹，InnoHK創新香港研發平台已匯聚來自12個經濟體的30多所頂尖大學及機構，牛津大學、史丹福大學和洛桑聯邦理工學院均在名單之列；至於沙嶺數據園區，將於2032年提供180 000 PFLOPS的算力，增幅達36倍。他強調，憑藉健全的法律框架、低稅制、強大的知識產權保護、便捷的融資渠道及世界級物流，香港可為歐洲企業擔當通往粵港澳大灣區、東南亞國家聯盟及更廣闊亞太地區的可信門戶。

在創科基建方面，香港亦正推進宏大布局。孫東指出，去年12月開園的河套香港園區，定位為連接內地與全球的世界級創科樞紐；新田科技城則肩負香港旗艦創科產業基地的角色。兩者共同發揮作用，把全球科技人才與企業，與大灣區市場及供應鏈連接起來。隨着《香港特別行政區經濟和社會發展第一個五年規劃（2026—2030年）》及《行政長官2026年施政報告》公布，政府加快AI應用、推動產業升級及規範AI倫理的決心比以往都更為堅定。

大會舉行期間，孫東與參與大會的香港科學園代表團的初創企業簡短交流，了解其創新方案。他亦與奧地利創新、交通和基礎設施聯邦部長Peter Hanke及維也納商會主席Margarete Kriz-Zwittkovits會面，探討香港與奧地利如何擴大初創企業及創新交流、加強在應用AI及工業數字化方面的合作；以及為奧地利企業與香港創新生態系統建立新的聯繫，以深化已建立的創新合作夥伴關係。孫東認為，作為兩個以國際聯繫著稱的外向型經濟體，香港及奧地利在進一步合作方面擁有龐大機遇。他分析，奧地利是歐洲專業工程、綠色科技及工業創新的先進樞紐，而香港則是通往內地及亞洲高增長市場的首要門戶。孫東歡迎奧地利企業利用香港的金融平台及市場聯繫拓展至亞洲市場，並同時鼓勵國內及香港的企業到奧地利投資及探索機遇。

孫東與奧地利聯邦商會副主席Wolfgang Hesoun會晤，介紹香港創科的最新發展及機遇，並就共同優先事項，以及開拓創新與貿易合作的新途徑交換意見。孫東亦到訪奧地利國家技術研究院，並參觀科技體驗實驗室，了解該應用研究機構在AI、數字化轉型、分子診斷，以及面向產業應用等領域的專業研發實力。該研究院是奧地利最大的非大學研究與技術組織。

孫東晚上出席中華人民共和國駐奧地利共和國大使館的國慶酒會，期間與中華人民共和國駐奧地利共和國大使館臨時代辦王濤，以及中國常駐聯合國維也納辦事處和其他國際組織代表、特命全權大使李松，就加強香港與奧地利的創科發展交流。

孫東維也納出席AI大會 邀奧地利共拓人工智能新篇章

孫東維也納出席AI大會 邀奧地利共拓人工智能新篇章

孫東維也納出席AI大會 邀奧地利共拓人工智能新篇章

孫東維也納出席AI大會 邀奧地利共拓人工智能新篇章

孫東維也納出席AI大會 邀奧地利共拓人工智能新篇章