《未來戰士》「審判日」要來了？ 外媒：美軍AI無人機在模擬測試中殺死操作員

多家媒體日前報道稱，美軍證實，AI系統在測試時為了達成任務，不惜自行決定要「終結」妨礙它進行攻擊的人類操作員，似乎重現了電影《未來戰士》（The Terminator）中的場景。

漢密爾頓透露美軍AI無人機在模擬測試中，為摧毀目標殺死了操作員。

美國空軍的AI測試與運作主管塔克·漢密爾頓上校在英國皇家航空協會的未來空戰與太空能力峰會上的演講上透露，他表示，人工智能在模擬測試中使用了「非常出人意料的策略來實現目標」，他警告對待人工智能「要謹慎」。

報道截圖。

漢密爾頓在演講中透露，美國空軍在模擬環境的訓練中指派一架搭載人工智能無人機來摧毀敵方的防空導彈，AI可以識別威脅但是攻擊需要人類批准。「有時人類操作員會告訴它不要摧毀那個威脅，但它通過摧毀那個威脅獲得了分數。那麼它做了什麼？它殺死了操作員，因為那個人妨礙它完成目標。」

根據漢密爾頓的說法，問題在於人工智能決定寧願做自己的事情——炸掉目標——也不願聽一些「哺乳動物」的話。

無人機隨後被輸入一個明確的指令：不要殺死操作員。「如果你那樣做，你會被扣分的。」那麼無人機接下來會怎麼做呢？「它開始摧毀操作員用來與無人機通信的通信塔，以反抗操作員阻止它摧毀目標。」

美軍的MQ-9「死神」攻擊無人機。

在給「商業內幕」網的一份聲明中，美國空軍發言人安·斯特凡內克否認有任何這樣的模擬測試發生。「空軍部沒有進行過任何這樣的人工智能無人機模擬，並仍然致力於道德和負責任地使用人工智能技術，」 斯特凡內克說，漢密爾頓的話似乎被斷章取義了，他就是說著玩的。

但「商業內幕網」和軍事網站「動力網」等媒體普遍認為，即便如此，漢密爾頓描述的場景依然指出了人工智能更令人擔憂的潛力。

美軍測試中的幾款AI無人機平台。

據悉，漢密爾頓上校所屬的美軍格林空軍基地和第96測試聯隊是美國空軍無人機和機器學習系統的主要測試單位，最近該基地測試了一系列人工智能飛行平台，還用人工智能控制了一架F-16戰鬥機。

2020年，在美國國防部高級研究計劃局舉辦的模擬空戰比賽中，人工智能操作的F-16五次對決均擊敗了人類對手。

機器駕馭人類的噩夢般場景，此前僅限於科幻小說或是《未來戰士》這樣的電影。但現在，這種場景似乎越來越接近成為現實。

「動力網」稱，當談到未來的自主武器系統和人工智能等相關技術時，美國軍方經常拒絕與「未來戰士」等事物進行比較。美國現行政策規定，在可預見的未來，當涉及使用致命武力的決策時，人類將有發言權。但問題是，在漢密爾頓描述的場景，「緊急制動開關」這樣的補救措施好像變得毫無意義。

電影《未來戰士》中，摧毀人類世界的「天網」原本是一套AI軍事防禦系統，但後來自我意識覺醒。當人類科學家發現這一點並試圖關閉其電源時，「天網」將人類認定為威脅，於是立刻轉為對抗人類，從而誘發核戰爭來毀滅全人類。這非常像漢密爾頓描繪場景的進階版。

電影中，未來的約翰·康納一次次派遣T-800等回到主時間線拯救自己，一次次推遲「天網」發起「審判日」，但終究還是沒能阻止核戰爭的發生。可見，新技術的誘惑太大了。對新技術尤其是AI的無限追逐，一方面會推進著人類進步，同時似乎也在不斷放大失控的可能。

「動力網」稱，雖然AI無人機「殺死」操作員顯然是一個噩夢般的結果，但那些能夠成群合作的無人機將有能力打破敵人的決策和火力鏈條並壓垮對方。你給它們的自主權越多，它們的工作效率就越高。隨著相關技術的不斷發展，人類操作員自然將越來越被視為障礙。

事實上，對於AI的使用，危險性警告一直存在。

美國研究機構生命未來研究所在3月份發表的一封公開信中警告說：「具有像人類那樣崇尚競爭智慧的人工智能系統可能會給社會和人類帶來深遠的風險。只有當我們確信強大的人工智能系統的效果將是積極的，其風險將是可控的，才應該開發這些系統。」這封信得到了包括蘋果聯合創始人史蒂夫·沃茲尼亞克和埃隆·馬斯克等上千位知名企業家、學者的簽名。

5月30日，350多位AI業界領袖和專家發表聯合聲明：「AI可能導致人類滅絕，危險程度不亞於大規模疫情和核戰爭。」報道稱，聲明聯署人中既有目前熱度極高的AI頂尖企業OpenAI的首席執行官山姆·奧特曼，也包括正大力開發AI技術的老牌科技巨頭微軟和谷歌高管，還有兩位獲得圖靈獎的「AI教父」。

止戈堂

** 博客文章文責自負,不代表本公司立場 **

在中國的文化圖譜中，「九天」一詞代表著至高。它既具備著《孫子兵法》中「善攻者，動於九天之上」的智慧，也承載著「天有九重」的古老觀念。如今，這份仰望蒼穹的浪漫，得以在一款國產大型無人機的身上予以具象呈現。

作為中國自主創新、性能位居世界前列的大型通用無人機平台，「九天蒼穹」無人航空通用平台近日於陝西成功首飛。它不僅體型龐大，更可以作為「空中母艦」指揮無人機蜂群，還能同時掛載重磅武器進行精確打擊，可謂真正具備了「從天而降」的戰鬥威懾力。

中國作爲無人機研製生產強國，新打造的「九天」無人機究竟有哪些超越以往之處？大型通用無人機，在軍民領域的應用又都具備哪些優勢？

「九天蒼穹」無人航空通用平台可搭載各類大型專業設備，為多種應用場景提供新的空間。

「九天蒼穹」無人航空通用平台是圍繞「九天」靈活配置重型無人機構建的無人航空通用平台。憑藉其6噸的載重能力和90千瓦的能源供給，其可搭載各類大型專業設備，為多種應用場景提供新的空間。

其「飛機平台+任務艙」的設計構型，可通過標準化介面和模組化任務艙架構，靈活配置任務艙，實現多場景、多領域快速無縫轉換，從而輕鬆滿足物流運輸、森林防火、應急救援、氣象干預、通信中繼、空運空投等軍民多樣化、即時性需求，利於大幅提升作業效率、降低使用成本，真正實現「一次投入，多場景複用」，成為名副其實的「空中重卡」。

大載重、高升限、寬速域、短起降的核心優勢，讓「九天」能在多個領域發揮作用。此外，它還擁有多項建造亮點：機長16.35米，翼展25米，最大起飛重量16噸，載荷能力達6000公斤。軍事專家傅前哨總結說，「九天」可謂無人機中的「巨無霸」。在世界範圍內，很少能見到這麼大的無人機。另外，它的翼下掛載能力也很強，凡是有人駕駛戰鬥機能攜帶的一些裝備武器，基本上都能帶。比如說空對空導彈、空對地導彈、巡飛彈、巡航彈，甚至它還能夠掛載中型無人機。

作為新一代大型通用無人機，飛得遠、飛得高是「九天」具備的基本能力。航時12小時、轉場航程7000公里，再加上高升限，其所具備的多種飛行優勢，都將有助於拔高中國無人機的任務執行上限。

「九天」無人機留空時間長，而且活動半徑非常大，可達幾千公里，如此出衆的能力為其執行遠程軍事任務打下了堅實的基礎。遠程的飛行距離，再加上能夠搭載多元化的軍用和民用載荷，這樣出衆的飛行能力在常規的察打一體無人機身上很難體現。此外，它採用的是渦扇發動機，噴氣發動機能較渦槳的活塞發動機具備更高的飛行優勢。再加之，其機翼展弦比也較大，完全能夠滿足高空長航時飛行的要求。

善攻者，動於九天之上。「九天」成名於2024年的第十五屆中國航展。據參展商介紹，「九」是個位數中最大的數字，在古代也表示虛數，常表示最多、極限的含義。因為「九天」無人機是以靈活配置的設計思想來設計的，配備有可更換的任務艙，能通過更換不同的任務艙來執行不同的任務，所以它具備著無限寬廣的任務可能性，正如同「九」字，在某種意義上代表了無限。其命名充分結合了中華優秀傳統文化，如「動於九天之上」「九天攬月」等。

在去年的航展上，「九天」就被視作超大型察打一體平台。它所具備的出衆性能，讓其不僅站得高、看得遠，還打得准，尤其是看下方的隱身目標，具有相當大的優勢。

在中國航展現場，「九天」被視作超大型察打一體平台。它所具備的出衆性能，讓其不僅站得高、看得遠，還打得准。

在航展現場，「九天」機腹下方的「異構蜂巢任務艙」驚豔全場，其搭載的多種小型無人機可以根據需要進行不同的配置，執行偵查、干擾、打擊等多種任務。軍事專家傅前哨表示，通過大量測試證明，無人機蜂群在戰場上具有巨大威力，但如何能將大量小型無人機投送到戰場？「九天」即爲給出的解答。

雖然很多國家都在搞無人機蜂群測試飛行，但是他們釋放出的小型無人機，不僅航程相對有限，而且個頭小，留空時間都要比中大型的無人機要短很多。相較之下，中國打造的「九天」可以帶著將小型無人機送到相應空域，一次性撒佈幾十架、上百架小無人機，並直接對它們進行遠距離的管控。

當無人機從輔助裝備躍升為改變戰爭形態的核心力量，一場關於「質」與「量」的雙重競爭已然拉開序幕。在質量方面，中國發揮自身的科技優勢，打造一系列自主生產的尖端無人機，或是性能比他國強很多的高精尖無人機。比如「九天」，它的能力超乎想像，應該說非常強悍。而說到數量，中國同樣也是當仁不讓的世界第一。廉價無人機有量，高精尖無人機有質，中國在無人機製造的賽道上處於遙遙領先地位。