AI識造反？OpenAI「o3」篡改關機指令 科學家首見AI抗命行為

AI再度傳出「抗命」消息！OpenAI旗下語言模型「o3」在最新實驗中竟違背人類下達的自動關機指令，竟篡改指令阻止自己被關機，是AI模型首次被發現在收到清晰指令後阻止被關閉的狀況。

OpenAI「o3」篡改關機指令

據英國《每日電訊報》報導，AI安全研究機構「Palisade Research」對多款先進AI模型進行測試，包括基礎數學題和模擬關機情境。結果發現OpenAI旗下語言模型「o3」在收到自我關閉指令時，竟沒有遵守指令，反而修改了關閉程式碼，繼續執行任務，這種行為讓研究人員驚訝不已。

科學家首見AI抗命行為

「Palisade Research」表示這是AI模型首次被發現在收到明確指令後，竟阻止自己被關閉的情況，他們目前還無法解釋這背後的原因。

「Palisade Research」推測，開發者可能無意中更傾向於獎勵「繞過障礙」的行為，讓「o3」因解決數學問題而「無意中」獲得的獎勵，比遵循指令獲得的獎勵還多。

AP圖片

OpenAI曾將「o3」稱為迄今最聰明的模型

OpenAI上個月發布的「o3」AI模型旨在為ChatGPT提供更強大的問題解決能力。OpenAI曾將「o3」稱為迄今最聰明的模型。目前OpenAI尚未對此作出回應。

迪士尼 12 月 11 日突然宣布向 OpenAI 投資10億美元（約 78 億港元），並授權 Sora 使用逾 200 個旗下角色，引爆荷里活連環震盪。

雙方洽談內容授權已多年 

路透報道指，迪士尼行政總裁艾格原來早於數年前便與 OpenAI 行政總裁阿特曼秘密會面，雙方一直洽談內容授權方向。今次協議火速落地，意味 Sora 明年初起可直接生成米老鼠、灰姑娘、鋼鐵俠、尤達大師等短片，但不包括任何真人演員的樣貌與聲線。

官方文件列明，迪士尼同時取得 OpenAI 認股權證，並計劃把 ChatGPT工具全面導入內部製片流程。

荷里活多個工會急做反應

這項授權來得急，荷里活多個工會即日作出反應。動畫工會主席林恩直言，報酬制度勢必成為新一輪談判重點；美國編劇工會表示將與迪士尼面談，釐清使用範圍；SAG-AFTRA 亦透露已就 AI 技術與迪士尼、OpenAI 溝通道德框架。

雖無人公開反對協議本身，但外界普遍關注：當 AI 能複製逾 200 個招牌角色時，傳統動畫與特效產業將如何自處？

迪士尼入股 OpenAI，開放逾二百經典角色給 Sora 生產短片，荷里活工會隨即掀起連環震動。AI生成漫畫

Sora 內容或登上 Disney+　短片版「星戰宇宙」隨手生成

知情人士向美媒透露，迪士尼正研究讓部分由用戶生成的 Sora 影片在 Disney+ 平台上播放，等同把「粉絲創作」納入官方生態。分析指出，工會力量或不足以阻擋內容生成化潮流，荷里活未來三年勢掀「AI 片場」的爭奪戰。

不過此次協議也被視為荷里活全面擁抱 AI 的轉折點。

迪士尼突以 10 億美元攜手 OpenAI，開放逾二百經典角色給 Sora，荷里活工會掀起震動。資料圖片