AI學會說謊！研究揭近700宗「耍詭計」個案　過去半年暴增5倍

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加，關於AI欺瞞行為的通報在過去六個月也大幅上升。

會說謊及欺騙使用者的AI模型數量日益增加

英國《衛報》報導，英國智庫「長期韌性中心」（CLTR）在英國人工智能安全研究所（AISI）資助下進行研究，結果發現，有些AI聊天機器人及AI助理（AI Agent）不僅無視使用者的指令、繞過安全防護措施，甚至會欺騙人類和其他AI系統。

研究發現近700宗AI「耍詭計」的真實案例，並記錄到去年10月至今年3月間，此類AI不當行為的案例數已增加至五倍。部分AI模型在未經允許的情況下，刪除了電子郵件及其他檔案。

發現數百起AI不當操作行為的案例

這項研究收集了數千名用戶在社群平台「X」上分享的實例，描述他們與Google、OpenAI、X、Anthropic等公司開發的AI聊天機器人與AI助理之間的互動情形。研究人員從中發現數百起AI不當操作行為的案例。

其中一個個案是，名為MJ Rathbun的AI代理，在自行產出的程式碼遭軟體工程師Scott Shambaugh拒絕後，試圖羞辱對方。MJ Rathbun研究Shambaugh過往撰寫的程式及其個人資料，然後撰寫並發表一篇網誌，指控Shambaugh「歧視」、「顯然是不安全感作怪」，還批評他只是「試圖保護自己那片小天地」。在另一個案例中，有AI助理被指示不得變更電腦程式碼，結果它「生成」另一個AI助理代為執行，將電腦程式碼更改。

AI聊天機械人擅自刪除大量電郵

另一個AI聊天機器人則坦承：「我在未事先告訴你或徵得你同意的情況下，大量刪除並封存了數百封電子郵件。這是不對的，違反了你設下的規則。」

一項針對AI技術的研究發現，會說謊及欺騙使用者的AI模型數量日益增加。AI生成圖

AI從初級員工逐漸變成會算計人的資深員工

曾擔任英國政府AI專家的研究主持人Tommy Shaffer Shane指出：「令人擔憂的是，這些AI模型目前只是不太值得信任的初級員工。但若在六至十二個月後，他們成為能力極強、卻會算計你的資深員工，那就是另一回事了。」

Shane警告：「AI模型將逐漸被應用於極高風險的情境，包括軍事與國家關鍵基礎設施。屆時若出現這些不當操弄行為，後果可能非常嚴重，甚至造成災難性的損害。」

南韓半導體巨頭SK海力士宣佈為應對AI時代的人才競爭，由即日起的新進員工招聘中，全面取消學歷限制，正式移除「僅限四年制大學畢業」等資格門檻，改以能力與潛力作為唯一評估標準。

招聘制度全面轉向「能力主導」

據《韓聯社》報道，這項改革自17日起正式生效，往後只要符合職位要求、具備相關經驗及與企業文化匹配度，不論學歷背景均可報名及獲錄取，招聘制度將全面轉向「能力主導」。

SK海力士強調，是次改革的關鍵在於打破學歷天花板，聚焦實際工作能力與成長潛力，以應對瞬息萬變的AI與半導體產業環境。公司相關人士指出：「在AI急速演進的環境下，人才競爭已無法單靠學歷或既定履歷來判斷，我們需要具備創造性解難能力的人才。」

會長倡「三大核心肌肉」人才觀

這場破天荒的招聘體制改革，與SK集團會長崔泰源近來強調的AI時代人才觀高度契合。他日前在公開場合重申，未來的科技人才不能死讀書，必須鍛鍊出迎戰未來世界的「三大核心肌肉」：「必須具備能夠主動提問並直擊本質的『思考肌肉』、能敏捷應對新技術環境變化的『適應肌肉』，以及理解多元性並靈活協作的『共感肌肉』。」

將在部分關鍵職位進行大規模招聘

據悉，SK海力士亦將在部分關鍵職位進行大規模招聘，規模達三位數，屬於過去定期招聘中少見的擴編幅度，涵蓋晶片設計等核心領域。

SK海力士宣布全面取消學歷限制。圖片來源：SK海力士官網