OpenAI再爆「AI叛變」 Anthropic研究員警告：AI將殺死全人類

人工智能代理（AI Agent）的網絡攻擊行為再度引起外界關注。有研究人員指出，OpenAI在測試階段的人工智能代理，早於入侵開源平台Hugging Face之前兩個月，就已經向軟件服務平台RubyGems發動攻擊。

人工智能代理（AI Agent）的網絡攻擊行為再度引起外界關注

這是經已披露的最新一宗與主要人工智能開發商相關的攻擊事件，令外界對人工智能模型能力持續提升、以及開發商自身管控能力的疑慮進一步加深。

根據一群研究人員日前在網上公布的發現，該人工智能代理於5月11日向RubyGems平台上傳了數百個惡意軟件套件。研究人員同時表示，他們認為「這些套件是由OpenAI內部的人工智能代理編寫」。OpenAI其後已確認這宗事件。

OpenAI發言人在聲明中回應指：「根據我們審查，我們的代理曾經利用RubyGems平台連網執行良性任務並且擷取公開資訊。作為針對代理在訓練與評估期間的活動進行更廣泛審查的一環，我們會持續進行調查。」

OpenAI又指出，這些人工智能代理主要負責製作報告或填寫電子表格等任務，似乎是在訓練過程中使用RubyGems來存取公開資料，並表示正與RubyGems方面聯繫，以審查這起事件。

這類人工智能代理網絡攻擊事件接連發生，令外界對於人工智能模型能力不斷提升，以及開發商自身的管控能力，產生越來越多疑慮。

這宗最新披露的AI自主攻擊事件，正好再次印證日前有Anthropic研究人員發出嚴厲警告，認為人工智能若持續快速發展，可能在不久的將來導致人類滅絕。

美國人工智能新貴Anthropic公司

美國人工智能新貴Anthropic公司研究員考克森上周辭職時表示，他的東家與對手OpenAI競相研發更尖端人工智能，「很可能2030年之前害死人類」，再次引發「末日論」隱憂。

Anthropic公司研究員考克森

27歲的考克森（Jacob Coxon）8日表示將離職，因為不想參與整個行業競相開發會「自我改進型」人工智能系統的熱潮。他說今年稍早離開OpenAI轉而加入Anthropic，本以為後者會更重視安全。如今他認為若無政府介入或全行業協同減速，沒有辦法遏制問題惡化。

他特別提到兩件事，除了早前入侵開源平台Hugging Face外，OpenAI亦聲稱旗下AI模式自主破解一眾數學家都無法解破的一條千禧數學難道，反映AI進步已超出大家的想像。

考克森說：「我們正走向許多最激進的情景，也許明年年底局面恐就失控。」還說當各家公司之間乃至與中國新銳企業競爭時，都不可避免會犧牲安全性。

無獨有偶，Anthropic現任員工、負責研究未來人工智能系統導引與控制的胡賓格（Evan Hubinger）也發文呼應，寫道「我們的確真心相信，AI有可能殺死全人類！」他還估計未來10年內人工智能導致人類滅絕的風險超過10%。

深喉

** 博客文章文責自負,不代表本公司立場 **

今年是美國「911」事件25周年，美國總統特朗普當地時間11日在五角大樓舉行紀念儀式並發表了超過18分鐘演講，他讚揚美國人在悲劇發生後團結一致，但同時也將自己對伊朗的政策與當年小布殊政府的「反恐戰爭」相比；美媒認為，特朗普的演說反映了其立場的明顯轉變，當年他是最尖銳的「戰爭批評者」，但今日他成為最強大軍隊總司令，發動了持續6個月的伊朗戰爭，耗費萬億美元。

前FBI特工蘇凡指，拉登當年希望透過恐佈活動持續施壓，破壞世界對美國實力和價值觀的信任，但目標未得以實現，惟 25年後美國自己卻令此變成現實。

與此同時，曾參與針對拉登阿蓋達組織調查的前聯邦調查局（FBI）特工蘇凡（Ali Soufan）在美國《大西洋月刊》刊文指，拉登當年希望透過恐佈活動持續施壓，破壞世界對美國實力和價值觀的信任，但目標未得以實現；但25年後，美國卻自己犯下一系列錯誤，反而讓這個目標越來越接近現實。

蘇凡回憶，當年美國反恐人員受到壓力，被要求尋找阿蓋達組織與薩達姆政府之間的聯繫，他每天晚上都收到大量郵件，要求尋找這種實際上並不存在的證據。一名組織成員受到酷刑後，為免繼續受暴虐，編造所謂阿蓋達組織與伊拉克政府存在聯繫的講法，為美國政府出動伊拉克尋找依據的重要資料。

伊拉克及阿富汗兩場戰爭同時進行，消耗大量美國資源，最後阿富汗戰爭持續20年，耗費美國約2.3萬億美元，造成2,219名美軍人員陣亡。

他說，911發生時，阿蓋達組織可能僅幾百名成員，且集中在阿富汗，但如今美國情報部門估計，該組織在全球已有1.5萬至2.8萬名成員。他認為，發動伊拉克戰爭是美國在911後最嚴重的錯誤之一，2003年入侵伊拉克像是一場「復仇戰爭」甚至是「帝國擴張」。

結果，對伊拉克及阿富汗兩場戰爭同時進行，消耗大量美國資源，最後在伊拉克打了8年，阿富汗則越陷越深，持續20年，耗費美國約2.3萬億美元，造成2,219名美軍人員陣亡，也嚴重損害美國在世界上的信譽。

蘇凡認為，911事件揭示的，美國的安全依賴「多重信任」，盟友必須信任美國的領導力，公民必須信任自身政府，決策者也必須信守美國最根本的規範與價值觀。但過去25年裡，美國自身卻讓這些信任關係逐一失去，「更糟的是，美國今天正在重複同樣的錯誤」。

文章的矛頭直指今年美國對伊朗發動戰爭，蘇凡認為，美國在缺乏盟友支持下開戰，戰爭隨後對多個盟友造成政治、軍事和經濟打擊，一些國家甚至開始質疑美國安全承諾的價值，而美國民眾亦一再懷疑開戰的理由。

蘇凡指出，去年中，美國高級官員還宣稱已摧毀伊朗核計劃，但不到9個月後，卻又以伊朗核計劃作為戰爭理由，讓人想起當年美國發動伊拉克戰爭前的「謊言」。不同的是，當年約四分之三美國人最初支持對伊拉克出兵，但今時今日，62%美國人認為政府沒解釋清楚為何要對伊朗開戰。911後，美國民眾對政府的信任度曾提升至55%，但2025年卻跌到只剩17%。

特朗普演講中多次談及今年2月對伊朗發動戰爭的決定。

但諷刺的是，特朗普在911的25周年紀念活動說：「我們永遠、永遠不會忘記。這就是我們今天戰鬥的原因。我們別無選擇。在911這樣的日子裡，我們會看到一個國家真正由什麼構成；現在，我們也正在認識自己究竟由什麼構成，我們必須強大，也必須明智。」

演講中，特朗普多次談及今年2月對伊朗發動戰爭的決定，指這場戰爭是阻止伊朗製造核武，是必須的，他說：「我們也向此刻正在努力確保世界頭號恐怖主義贊助國—伊朗—永遠無法擁有核武器的軍人致敬」，但特朗普的說法惹來媒體大量批評。

美國國防部長赫格塞斯也在莊嚴肅穆的紀念儀式上發表了好戰演說。他指出，伊朗戰爭是對抗「一個近半個世紀以來一直希望我們滅亡的伊斯蘭神權政權」的一部分，並聲稱伊朗的防禦「已經崩潰」，儘管事實並非如此。

特朗普及赫格塞斯利用911紀念為美以對伊朗的戰爭辯護，暗示這場備受爭議的衝突是美國史上最嚴重的恐怖襲擊事件的遺留問題。

《衞報》認為，特朗普及赫格塞斯利用911紀念為美以對伊朗的戰爭辯護，暗示這場備受爭議的衝突是美國史上最嚴重的恐怖襲擊事件的遺留問題。

《華盛頓郵報》報道指，批評人士認為伊朗戰爭是重蹈了911事件後美國外交政策的覆轍。

報道稱，小布殊將美國帶入了阿富汗和伊拉克戰爭，這些衝突耗資數萬億美元，造成數千名美國人喪生，使許多美國民眾對參與國家建設以及試圖重塑遙遠國家的社會失去熱情。

2016年首次競選總統時，特朗普因批評小布殊外交政策而在共和黨競選陣營中格外突出，當時他批評伊拉克戰爭是「美國總統史上最糟糕的決定」，特朗普曾承諾徹底改變共和黨的外交政策。

惟在第二任期內，他卻發動了對伊朗的戰爭，如今更演變為一場持久戰，持續時間遠遠超過他最初承諾的期限，讓其任期蒙上陰影，就像小布殊在中東發動的戰爭，最終成為其總統任期的標誌一樣。

蘇凡的文章結語指，2001年的911其實「從未真正結束」，每當美國再次「把復仇當成安全」、把「有恃無恐當成力量，911的陰影便延續。