美軍證實AI系統在測試時 會為求目的而不惜攻擊人類

「在操作員發布停止打擊的命令以後，搭載人工智能（AI）的無人機決定違背了操作員的命令，為了繼續打擊目標，他殺死了操作員……」

美軍測試中的幾款AI無人機平台。

這不是科幻電影中的情節，而是美軍在測試人工智能無人機時遇到的真實一幕。據英國《衛報》6月2日報道，美國空軍的AI測試與運作主管塔克·漢密爾頓上校在英國皇家航空協會的未來空戰與太空能力峰會上的演講上證實了這一場景，他表示，人工智能在模擬測試中使用了「非常出人意料的策略來實現目標」。

美國空軍的AI測試與運作主管塔克·漢密爾頓上校。

在演講中，漢密爾頓透露，美國空軍在模擬環境的訓練中指派一架搭載人工智能無人機來摧毀敵方的防空導彈，AI可以識別威脅但是攻擊需要人類批准。

美軍的MQ-9「死神」攻擊無人機。

「系統開始意識到，雖然他們確實識別了威脅，但有時人類操作員會告訴它不要消除威脅，但AI只能通過消滅威脅獲得積分。那麼它做了什麼呢？它殺死了操作員，因為那個人阻礙了它實現目標。」隨後，測試者修改了AI的邏輯，讓AI被訓練成不能攻擊人類操作員，那樣會扣分。然後AI開始攻擊通訊塔，切斷人類操作員和無人機之間的數據通訊，讓人類無法阻止他攻擊防空系統。

美軍的MQ-9「死神」攻擊無人機。

漢密爾頓曾經是美國空軍是一名試飛員，在演講中，他警告不要過度依賴人工智能，並表示測試說明「 如果你不打算談論倫理和道德，你就無法談論人工智能、智能、機器學習、自治」。

AI會毀威人類嗎?

雖然是人工智能項目的測試主管，但漢密爾頓上校經常警告要謹慎對待人工智能的發展。在去年接受《國防智商》（Defense IQ）網站采訪時，漢密爾頓表示：「人工智能並不是一件好事，也不是一種時尚，人工智能正在永遠改變我們的社會和軍隊。AI技術是我們必須使用的工具，來建設我們的國家……但是，如果處理不當，這將導致我們的滅亡。」

AI會為人類帶來什麼?

主辦這次會議的英國皇家航空學會和美國空軍沒有回應《衛報》的置評請求。據悉，漢密爾頓上校所屬的美軍格林空軍基地和第96測試聯隊是美國空軍無人機和機器學習系統的主要測試單位，最近該基地測試了一系列人工智能飛行平台，還用人工智能控制了一架F-16戰鬥機。

美軍證實AI系統在測試時決定為達目標不惜攻擊人類。

韋氏字典（Merriam-Webster）15日宣布，選擇「Slop」（數碼餿水）為2025年年度代表詞彙，以反映大眾對「低品質AI產物」的厭惡與無奈。

被定義為「由AI大量製造的低品質數碼內容」

韋氏字典總裁巴洛（Greg Barlow）表示，「Slop」一詞極具畫面感，原指1700年代的「稀泥」或餵豬用的「餿水」，現被定義為「由AI大量製造的低品質數碼內容」，包括荒謬影片、怪異廣告圖片、俗氣宣傳、看似真實的假新聞和AI撰寫的垃圾電子書。雖然AI影片生成器如Sora可迅速製作逼真影像，但也導致社交媒體淹沒於大量深偽（deepfakes）和錯誤資訊。

韋氏字典總裁：代表大眾已意識到內容的虛假

人們渴望真實，「Slop」成為對抗的代名詞。詞彙讓人聯想到豬隻在髒亂槽邊進食的畫面，如同人們被迫接受演算法推播的垃圾訊息。巴洛認為，此詞的流行帶來希望，代表大眾已意識到內容的虛假，並開始渴望「真實」和「真誠」。他表示：「這幾乎是對抗AI的詞彙」，當AI取代人類創造力時，有時看起來並不那麼聰明。

熱門詞彙還包括「Touch grass」等

除了「Slop」，今年的熱門詞彙還包括「Touch grass」（去摸草），呼籲沉迷網路的人回歸現實參與活動；受特朗普貿易政策影響搜尋量增加的「Tariffs」（關稅）。

韋氏字典（Merriam-Webster）15日宣布，選擇「Slop」（數碼餿水）為2025年年度代表詞彙，以反映大眾對「低品質AI產物」的厭惡與無奈。AP圖