多家媒體日前報道稱，美軍證實，AI系統在測試時為了達成任務，不惜自行決定要「終結」妨礙它進行攻擊的人類操作員，似乎重現了電影《未來戰士》（The Terminator）中的場景。
漢密爾頓透露美軍AI無人機在模擬測試中，為摧毀目標殺死了操作員。
美國空軍的AI測試與運作主管塔克·漢密爾頓上校在英國皇家航空協會的未來空戰與太空能力峰會上的演講上透露，他表示，人工智能在模擬測試中使用了「非常出人意料的策略來實現目標」，他警告對待人工智能「要謹慎」。
報道截圖。
漢密爾頓在演講中透露，美國空軍在模擬環境的訓練中指派一架搭載人工智能無人機來摧毀敵方的防空導彈，AI可以識別威脅但是攻擊需要人類批准。「有時人類操作員會告訴它不要摧毀那個威脅，但它通過摧毀那個威脅獲得了分數。那麼它做了什麼？它殺死了操作員，因為那個人妨礙它完成目標。」
根據漢密爾頓的說法，問題在於人工智能決定寧願做自己的事情——炸掉目標——也不願聽一些「哺乳動物」的話。
無人機隨後被輸入一個明確的指令：不要殺死操作員。「如果你那樣做，你會被扣分的。」那麼無人機接下來會怎麼做呢？「它開始摧毀操作員用來與無人機通信的通信塔，以反抗操作員阻止它摧毀目標。」
美軍的MQ-9「死神」攻擊無人機。
在給「商業內幕」網的一份聲明中，美國空軍發言人安·斯特凡內克否認有任何這樣的模擬測試發生。「空軍部沒有進行過任何這樣的人工智能無人機模擬，並仍然致力於道德和負責任地使用人工智能技術，」 斯特凡內克說，漢密爾頓的話似乎被斷章取義了，他就是說著玩的。
但「商業內幕網」和軍事網站「動力網」等媒體普遍認為，即便如此，漢密爾頓描述的場景依然指出了人工智能更令人擔憂的潛力。
美軍測試中的幾款AI無人機平台。
據悉，漢密爾頓上校所屬的美軍格林空軍基地和第96測試聯隊是美國空軍無人機和機器學習系統的主要測試單位，最近該基地測試了一系列人工智能飛行平台，還用人工智能控制了一架F-16戰鬥機。
2020年，在美國國防部高級研究計劃局舉辦的模擬空戰比賽中，人工智能操作的F-16五次對決均擊敗了人類對手。
機器駕馭人類的噩夢般場景，此前僅限於科幻小說或是《未來戰士》這樣的電影。但現在，這種場景似乎越來越接近成為現實。
「動力網」稱，當談到未來的自主武器系統和人工智能等相關技術時，美國軍方經常拒絕與「未來戰士」等事物進行比較。美國現行政策規定，在可預見的未來，當涉及使用致命武力的決策時，人類將有發言權。但問題是，在漢密爾頓描述的場景，「緊急制動開關」這樣的補救措施好像變得毫無意義。
電影《未來戰士》中，摧毀人類世界的「天網」原本是一套AI軍事防禦系統，但後來自我意識覺醒。當人類科學家發現這一點並試圖關閉其電源時，「天網」將人類認定為威脅，於是立刻轉為對抗人類，從而誘發核戰爭來毀滅全人類。這非常像漢密爾頓描繪場景的進階版。
電影中，未來的約翰·康納一次次派遣T-800等回到主時間線拯救自己，一次次推遲「天網」發起「審判日」，但終究還是沒能阻止核戰爭的發生。可見，新技術的誘惑太大了。對新技術尤其是AI的無限追逐，一方面會推進著人類進步，同時似乎也在不斷放大失控的可能。
「動力網」稱，雖然AI無人機「殺死」操作員顯然是一個噩夢般的結果，但那些能夠成群合作的無人機將有能力打破敵人的決策和火力鏈條並壓垮對方。你給它們的自主權越多，它們的工作效率就越高。隨著相關技術的不斷發展，人類操作員自然將越來越被視為障礙。
事實上，對於AI的使用，危險性警告一直存在。
美國研究機構生命未來研究所在3月份發表的一封公開信中警告說：「具有像人類那樣崇尚競爭智慧的人工智能系統可能會給社會和人類帶來深遠的風險。只有當我們確信強大的人工智能系統的效果將是積極的，其風險將是可控的，才應該開發這些系統。」這封信得到了包括蘋果聯合創始人史蒂夫·沃茲尼亞克和埃隆·馬斯克等上千位知名企業家、學者的簽名。
5月30日，350多位AI業界領袖和專家發表聯合聲明：「AI可能導致人類滅絕，危險程度不亞於大規模疫情和核戰爭。」報道稱，聲明聯署人中既有目前熱度極高的AI頂尖企業OpenAI的首席執行官山姆·奧特曼，也包括正大力開發AI技術的老牌科技巨頭微軟和谷歌高管，還有兩位獲得圖靈獎的「AI教父」。
止戈堂
** 博客文章文責自負,不代表本公司立場 **
