《未來戰士》「審判日」要來了？ 外媒：美軍AI無人機在模擬測試中殺死操作員

多家媒體日前報道稱，美軍證實，AI系統在測試時為了達成任務，不惜自行決定要「終結」妨礙它進行攻擊的人類操作員，似乎重現了電影《未來戰士》（The Terminator）中的場景。

漢密爾頓透露美軍AI無人機在模擬測試中，為摧毀目標殺死了操作員。

美國空軍的AI測試與運作主管塔克·漢密爾頓上校在英國皇家航空協會的未來空戰與太空能力峰會上的演講上透露，他表示，人工智能在模擬測試中使用了「非常出人意料的策略來實現目標」，他警告對待人工智能「要謹慎」。

報道截圖。

漢密爾頓在演講中透露，美國空軍在模擬環境的訓練中指派一架搭載人工智能無人機來摧毀敵方的防空導彈，AI可以識別威脅但是攻擊需要人類批准。「有時人類操作員會告訴它不要摧毀那個威脅，但它通過摧毀那個威脅獲得了分數。那麼它做了什麼？它殺死了操作員，因為那個人妨礙它完成目標。」

根據漢密爾頓的說法，問題在於人工智能決定寧願做自己的事情——炸掉目標——也不願聽一些「哺乳動物」的話。

無人機隨後被輸入一個明確的指令：不要殺死操作員。「如果你那樣做，你會被扣分的。」那麼無人機接下來會怎麼做呢？「它開始摧毀操作員用來與無人機通信的通信塔，以反抗操作員阻止它摧毀目標。」

美軍的MQ-9「死神」攻擊無人機。

在給「商業內幕」網的一份聲明中，美國空軍發言人安·斯特凡內克否認有任何這樣的模擬測試發生。「空軍部沒有進行過任何這樣的人工智能無人機模擬，並仍然致力於道德和負責任地使用人工智能技術，」 斯特凡內克說，漢密爾頓的話似乎被斷章取義了，他就是說著玩的。

但「商業內幕網」和軍事網站「動力網」等媒體普遍認為，即便如此，漢密爾頓描述的場景依然指出了人工智能更令人擔憂的潛力。

美軍測試中的幾款AI無人機平台。

據悉，漢密爾頓上校所屬的美軍格林空軍基地和第96測試聯隊是美國空軍無人機和機器學習系統的主要測試單位，最近該基地測試了一系列人工智能飛行平台，還用人工智能控制了一架F-16戰鬥機。

2020年，在美國國防部高級研究計劃局舉辦的模擬空戰比賽中，人工智能操作的F-16五次對決均擊敗了人類對手。

機器駕馭人類的噩夢般場景，此前僅限於科幻小說或是《未來戰士》這樣的電影。但現在，這種場景似乎越來越接近成為現實。

「動力網」稱，當談到未來的自主武器系統和人工智能等相關技術時，美國軍方經常拒絕與「未來戰士」等事物進行比較。美國現行政策規定，在可預見的未來，當涉及使用致命武力的決策時，人類將有發言權。但問題是，在漢密爾頓描述的場景，「緊急制動開關」這樣的補救措施好像變得毫無意義。

電影《未來戰士》中，摧毀人類世界的「天網」原本是一套AI軍事防禦系統，但後來自我意識覺醒。當人類科學家發現這一點並試圖關閉其電源時，「天網」將人類認定為威脅，於是立刻轉為對抗人類，從而誘發核戰爭來毀滅全人類。這非常像漢密爾頓描繪場景的進階版。

電影中，未來的約翰·康納一次次派遣T-800等回到主時間線拯救自己，一次次推遲「天網」發起「審判日」，但終究還是沒能阻止核戰爭的發生。可見，新技術的誘惑太大了。對新技術尤其是AI的無限追逐，一方面會推進著人類進步，同時似乎也在不斷放大失控的可能。

「動力網」稱，雖然AI無人機「殺死」操作員顯然是一個噩夢般的結果，但那些能夠成群合作的無人機將有能力打破敵人的決策和火力鏈條並壓垮對方。你給它們的自主權越多，它們的工作效率就越高。隨著相關技術的不斷發展，人類操作員自然將越來越被視為障礙。

事實上，對於AI的使用，危險性警告一直存在。

美國研究機構生命未來研究所在3月份發表的一封公開信中警告說：「具有像人類那樣崇尚競爭智慧的人工智能系統可能會給社會和人類帶來深遠的風險。只有當我們確信強大的人工智能系統的效果將是積極的，其風險將是可控的，才應該開發這些系統。」這封信得到了包括蘋果聯合創始人史蒂夫·沃茲尼亞克和埃隆·馬斯克等上千位知名企業家、學者的簽名。

5月30日，350多位AI業界領袖和專家發表聯合聲明：「AI可能導致人類滅絕，危險程度不亞於大規模疫情和核戰爭。」報道稱，聲明聯署人中既有目前熱度極高的AI頂尖企業OpenAI的首席執行官山姆·奧特曼，也包括正大力開發AI技術的老牌科技巨頭微軟和谷歌高管，還有兩位獲得圖靈獎的「AI教父」。

止戈堂

** 博客文章文責自負,不代表本公司立場 **

中國海軍於成立75周年紀念日公佈潛艇主題宣傳片，展示高清晰度的巨浪潜射導彈發射場面，還首次完整披露了山東艦航母編隊的陣容。

中國海軍宣傳片《隱入深海》視頻截圖

專家表示，短片中許多畫面都是首次公開，真實展示出一切從實戰化出發的主題。

視頻截圖

4月21日，中國人民解放軍新聞傳播中心「中國軍號」對外發布《隱入深海》的預告片。短片通過艇長、機電長和聲納兵三個人物，展示出潜艇官兵在潜艇工作中危險、艱巨，和隨時為了完成任務的義無反顧。

潜艇具有隱蔽性好、突擊力强等特點，既能獨立作戰，也可與海軍航空兵或水面艦艇部隊協同作戰。短片中許多畫面都是首度公開，「無聲就是生命力，隱蔽就是戰鬥力」，充分展示出潜艇「大音希聲」「大象無形」的作戰特點，反映了潜艇官兵默默無聞、同生共死的大無畏情懷和戰鬥精神。

視頻截圖

從影片畫面中可以看出，核導彈垂直發射，通過其彈體外形，可以看出是巨浪潜射彈道導彈。

視頻截圖

影片中，紅方航母編隊由中國國産航母山東艦領銜，這也是山東艦航母戰鬥群首次完整地公布了水面艦艇、潜艇和航空聯隊組成，此次演習中水下力量包括三艘潜艇和至少一艘戰略核潜艇。

海軍研究院唐莉大校表示，自2021年起，人民海軍值成立紀念日活動期間均發布年度主題宣傳片，一年講述一個練兵備戰的故事。今年的短片《隱入深海》延續了前4年「主題叙事」風格，運用多鏡頭體現了大體系支撑下的實戰化演練，表現手法多樣。

截至目前，中國海軍先後發布了海軍不同主題形象宣傳片《大海向黨旗報告》、《深藍！深藍！》和《蛟龍行動》。唐莉還稱，今年以潜艇為主題的另一層涵義是向人民海軍潜艇部隊成立70周年致敬。據介紹，從1954年起，中國開始組建潜艇部隊。

唐莉介紹說，因潜艇部隊的特殊性，反映潜艇官兵宣傳片拍攝難、數量相對少，完整反映他們的訓練生活就更難。該短片有故事有情節，有歷史縱深感，兼有人物顆粒度，以最貼近兵心的角度，展現了潜艇官兵最不為人知的一面，即「百人一條艇」「同命運共生死」的戰友情義和攻堅克難、能戰善戰、勝戰止戰的戰鬥形象。

片中，出征前支隊指揮員給全艇官兵舉行誓師大會，喊出的「一個都不能少」口號，揭示了他們面對生死的無畏精神，這一幕深深觸動了觀眾。

據悉，海軍潜艇部隊成立70年來，取得了令人矚目的成績，該主題在短片中也有所體現。短片中的聲納兵就是在海軍潜艇學院學習專業技能的，「在人才培養方面，海軍潜艇學院可以完成新兵到專業軍士、初級軍官到一綫指揮官的全科目、全流程理論以及實操自主培訓。」唐莉介紹說，實戰訓練方面，潜艇部隊已進入實戰化、體系化訓練環節，遠航訓練常態化，戰鬥力得到不斷躍升；裝備建設方面，潜艇全面升級換代，核常兼備，並且新一代AIP潜艇占比越來越高；綜合保障方面，軍港設施、裝備維修、遠航飲食、援潜救生等均極大保證了潜艇部隊的戰鬥效能。「可以說，中國海軍潜艇航程越來越遠，潜航越來越長，下潜越來越深。」

今年的宣傳片延續了以往「暗藏『彩蛋』」特點，不負眾望地公布了一些「驚喜鏡頭」，仔細觀看短片可以發現訓練中的實戰化信息：兩支航母編隊正在進行「紅藍對抗」演習，紅方航母編隊由中國國産航母山東艦領銜，這也是山東艦航母戰鬥群首次完整地公布了水面艦艇、潜艇和航空聯隊組成，此次演習中水下力量包括三艘潜艇和至少一艘戰略核潜艇。

在正片結束之際，艇長發布命令說，「同志們，我艇已抵達預定發射陣位，全艇靜默，聽令實施致命一擊。」從畫面中可以看出，核導彈垂直發射，通過其彈體外形，可以看出是巨浪潜射彈道導彈。此前，在一段公開的視頻中也曾出現類似畫面。

值得注意的是，發射巨浪潜射彈道導彈的新型核潜艇雖然沒有出現在畫面中，但在「隊友」的掩護下，該型核潜艇抵達了預定陣位，並且實施了戰略打擊。而核潜艇抵達最佳陣位進行發射需要突破對方反潜攔截，也就是突破對方封鎖綫，由此可以看出，該短片真實地反映出「一切從實戰」的主題。