OpenAI前員工預警超級智能將引發大動蕩 軍事優勢或只有核武器可比肩

近期，一位來自OpenAI的前員工公開預警，超級智能技術的進步速度遠超人們的想象，並會給人類社會帶來巨大的動蕩和挑戰：超級智能幾周的學習與進化，可能相當於人類文明幾十億年的積澱。

據「每日經濟新聞」，2024年4月，前OpenAI超級對齊部門成員、利奧波德·阿申布倫納（Leopold Aschenbrenner）被OpenAI以洩露公司機密為由解雇。6月初，阿申布倫納在網站上發佈了一份長達165頁的PDF文件，文件匯總了他在OpenAI工作期間所瞭解的信息，深入探討了當前AI技術的進展、從人工通用智能（AGI）到超級智能（Superintelligence）的發展路徑等問題。

阿申布倫納發佈的PDF文件《態勢感知》。X截圖

6月初，利奧波德·阿申布倫納在博客節目Dwarkesh Podcast中，透露他被開除的真實原因——他給幾位董事會成員分享了一份OpenAI安全備忘錄，結果導致OpenAI管理層不滿。同日，阿申布倫納在社交平台上，發佈了一份長達165頁的PDF文檔。

阿申布倫納X截圖

阿申布倫納將他的這份文件命名為《態勢感知》（Situational Awareness）。在文件的開頭，他特別指出，雖然自己曾在OpenAI工作，但自己的預測都是基於公開信息、自己的想法、工作期間的八卦等。他還在這份文件的開頭特別緻敬了前OpenAI首席科學家伊爾亞·蘇茨克維（Ilya Sutskever）和其他OpenAI超級對齊團隊的成員。

他認為目前全世界只有僅僅幾百人對AI的發展有真正意義上的感知，這些人大多集中在舊金山地區以及全球各地的AI實驗室里，自己便是這幾百人中的一員。而那些主流評論家們只看到了炒作和常規的商業模式，他們認為這不過是另一場互聯網規模的技術變革。

阿申布倫納在《態勢感知》開頭致敬前OpenAI首席科學家伊爾亞·蘇茨克維。

阿申布倫納在文章中指出，AI的進步不會止步於人類水平。例如，在最初學習了人類最好的棋局之後，AlphaGo開始與自己對弈，它很快實現了超越人類的水平，下出了人類永遠無法想出的極具創意和複雜性的棋步。

在實現AGI後，人類將能夠利用先進的AGI系統實現自動化的AI研究，將十年的算法進步壓縮到一年內。這意味著我們將迅速從人類水平的AI系統過渡到遠超人類的超級智能系統。這可能會將人類10年的算法進展壓縮到不到1年的時間里。與現有領先的AI實驗室的數百名研究人員和工程師相比，未來的AI實驗室可能會擁有成千上萬個AGI系統，夜以繼日地努力實現算法突破，不斷自我完善，加速算法進步的現有趨勢。

《態勢感知》內文截圖

他寫道：「超級智能的力量和危險將是戲劇性的。」這種轉變不僅會帶來技術上的飛躍，還將引發一系列倫理和安全問題。

阿申布倫納強調，通過一些新的創新，超級智能在幾周內就能獲得相當於人類數十億年的經驗。這種前所未有的學習速度將使超級智能在數量和質量上遠超人類。他指出：「這些AI系統將能夠以我們無法想象的速度進行思考和學習。」

阿申布倫納預測，到本世紀末，我們將擁有數以億計的超級智能，這些智能體將在數量和質量上遠超人類。他寫道：「在數以億計的GPU上運行的超級智能，將能夠比人類快幾個數量級地『思考』。」這種超級智能的湧現將帶來巨大的技術進步，但也伴隨著巨大的風險。

《態勢感知》內文截圖

文章中最引人注目的觀點之一是，十億超級智能將能夠將人類研究人員在下個世紀進行的研發工作壓縮到幾年內。這種壓縮效應將極大地加速技術進步，但也可能帶來難以預見的後果。

阿申布倫納指出：「超級智能將是人類有史以來最強大的技術——也是最強大的武器。它將賦予軍事上決定性的優勢，或許只有核武器可以相比。」

阿申布倫納強調，智能爆炸和其直接後果將帶來人類歷史上最為動蕩和緊張的局面。他指出：「在這個初期階段，人類的任務將不是製造酷炫的產品，而是要盡一切可能度過這一時期。」他呼籲建立一個能夠嚴肅對待這些困難抉擇的指揮鏈，以穩定國際局勢並管理智能爆炸期間的風險。

他進一步提到，儘管對齊技術可能會被濫用，但我們仍需要更好的對齊技術來確保未來模型的基本限制，如遵循指令或遵守法律。這些技術不僅僅是為了防止濫用，更是為了確保AI能夠在安全的框架內運行。

展望未來，阿申布倫納認為，我們正處於一個前所未有的快速發展時期，預計在未來四年內，計算能力將再提升約10萬倍，帶來類似於GPT-2到GPT-4的質的飛躍。他指出，這不僅意味著更好的聊天機器人，更意味著從工具到代理的轉變，從一個簡單的工具到一個更像是遠程助手的存在。

深喉

** 博客文章文責自負,不代表本公司立場 **

中吉烏鐵路建設項目的進展，又觸動了美國的敏感神經。

去年3月，蘭州新區首趟數字化「中吉烏」國際多式聯運貨運班列發車。央視新聞圖片

中吉烏鐵路項目三國政府間協定簽署不到兩周，該鐵路建設又迎來新進展。據俄羅斯《獨立報》報道，18日，吉爾吉斯斯坦議會開始審議中國－吉爾吉斯斯坦－烏茲別克斯坦鐵路建設合作的法律草案。

專家們表示，這條鐵路對促進沿綫各國乃至整個地區互聯互通、加强經貿往來意義重大，也因此吸引多方關注。有吉爾吉斯斯坦專家稱，美國也正緊盯這一鐵路的建設情况。

「美國或將千方百計阻礙這一鐵路的建設。」吉爾吉斯斯坦《比什凱克晚報》18日以此為題報道稱，出於對中國在中亞地區影響力增强的擔憂，美國不太可能忽視中吉烏鐵路項目的啓動。去年5月，中國和中亞五國在西安首次舉行峰會，進一步加深合作關係。美國緊隨其後借用中亞五國總統出席聯合國大會的機會，首次召開「C5+1」總統級別對話峰會。

報道稱，對於中吉烏鐵路建設，美國采取的相關措施可能包括控制媒體散布所謂的「獨立」調查消息，以詆毀鐵路建設和項目參與者。由美國政府資助的吉爾吉斯斯坦非政府組織可能會提出有關生態危害、影響居民生活等問題。

蘭州大學政治與國際關係學院教授汪金國19日接受《環球時報》記者采訪時表示，近年來，美國出於牽制中俄的戰略考慮，加緊拉攏中亞國家。美國時下關注中吉烏鐵路的建設進展，主要有以下考量：首先，從與中國在中亞地區的地緣政治競爭角度而言，中吉烏鐵路建設落地，將强化中國在該地區的國際影響力，從而不利於美國爭奪在中亞地區關鍵事務上的話語權和影響力；其次，中亞地區擁有豐富的能源和礦産資源，對於全球能源供應和經濟發展具有重要意義；此外，中吉烏鐵路建設還將强化中國與歐洲、阿拉伯和南亞地區的聯繫，有利於中國鞏固在全球供應鏈中的地位。

尹錫悅訪問烏茲別克斯坦。烏茲別克斯坦駐美大使館圖片

值得一提的是，中吉烏鐵路項目三國政府間協定簽署一周後，14日，在韓國總統尹錫悅對烏茲別克斯坦進行國事訪問期間，韓國機車車輛製造商現代羅特姆和烏茲別克斯坦鐵路公司簽署《烏茲別克斯坦鐵路公司六列高速列車供貨合同》。據韓聯社報道，這項合作達2700億韓元。韓方將向烏茲別克斯坦出口6列時速可達250公里的高速列車，每列7節車厢，共42節。

不少媒體也關注到「烏茲別克斯坦購買韓國高速列車技術」，並以「烏放弃中國高鐵技術，轉身與他國簽訂單」為題進行報道。事實上，韓國向烏茲別克斯坦提供的高速列車服務並非中吉烏鐵路段，專家介紹稱，中吉烏鐵路終點在烏茲別克斯坦的東部城市安集延，未到塔什幹，而韓國列車服務涉及的路綫是從塔什幹往西通行。

除了韓國之外，烏茲別克斯坦與西班牙、俄羅斯、中國等國在這一領域都有合作。中吉烏鐵路項目三國政府間協定簽署後，中國相關企業西部建設、八一鋼鐵、航天智裝、凱發電氣等紛紛表示將緊密跟踪中吉烏鐵路項目進展，並積極參與項目招投標。

中吉烏鐵路路線圖。

中吉烏鐵路起自新疆喀什，經吉爾吉斯斯坦進入烏茲別克斯坦境內，未來可向西亞、南亞延伸。對吉爾吉斯斯坦而言，中吉烏鐵路的修建將完善本國鐵路網。烏茲別克斯坦致力於「交匯」東西向的中吉烏鐵路與南北向的鐵爾梅茲—馬扎裏沙裏夫—喀布爾—白沙瓦鐵路，從而推動本國成為國際性交通運輸樞紐。

汪金國表示，此前，從中國經中亞通往歐洲和阿拉伯世界的主要陸路通道是通過哈薩克斯坦和俄羅斯。中吉烏鐵路將使中國到歐洲的陸地運輸路綫縮短近900公里，貨物運輸時間縮短約8天。

他認為，更短、更快和成本更低的陸路運輸綫路，將大大增加內陸國吉爾吉斯斯坦和烏茲別克斯坦的貨運通行量，兩國每年可依靠貨物過境取得豐厚收益，同時將帶來大量就業機會；其次，中吉烏鐵路的建成將徹底打破中亞地區沒有出海口的限制，縮短中亞産品至世界其他主要市場的運輸周期；此外，在俄烏衝突對中亞地區的貿易和跨境運輸造成衝擊的背景下，中亞地區國家希望有能够規避西方制裁限制的代替選項，中吉烏鐵路不經過俄羅斯境內，可以滿足這些國家針對西方制裁風險的對沖需求。

從長遠角度看，汪金國認為，中亞有機會成為整個歐亞大陸的重要交通樞紐。中吉烏鐵路將成為連接中國與中亞、南亞和歐洲的新出口，對中國進出口路綫多元化、釋放新疆和西部地區經濟外貿潜力有重要意義。