人工智能自主改進能力逼近 領先實驗室稱將實現

人工智能模型自主學習，提升效率及能力，這曾是科技研究人員遙不可及的目標，但現時看來已越來越接近現實。

隨着科技進步，開發人員表示，人工智能正邁向「遞歸式自我改進」（RSI），即人工智能模型會自行尋找方法改進，並建立其後繼版本。科技公司高層指出，這有望推動科學及醫學發展，但同時亦存在風險。

檔案圖片：Anthropic行政總裁兼聯合創辦人Dario Amodei，2025年1月23日在瑞士達沃斯出席世界經濟論壇年會。(美聯社圖片/Markus Schreiber) AP圖片

這種發展方向的不確定性，正是外界日益擔憂人工智能可能擺脫人類控制，並對人類構成威脅的核心原因。多位人工智能巨頭上周尾呼籲，應減慢這項科技的發展步伐。

Anthropic公司本周詳述其模型Claude如何協助公司開發下一個更智能的版本。該公司表示，Claude現時負責Anthropic模型研發工作的26%，意味它可在人類監督下，「從高層次指令端到端」完成大部分指定任務。這些模型目前尚未完全自主運作。

以下是關於遞歸式自我改進的一些重點。

各主要人工智能公司對遞歸式自我改進有不同定義。部分公司將其定義為人工智能對模型改進提供任何反饋，另一些則定義為人工智能完全自主地實現該目標。

非牟利組織「生命未來研究所」總裁兼行政總裁、加州大學聖克魯斯分校物理學教授Anthony Aguirre表示，自主遞歸式自我改進，實質上是指人工智能能夠自行改進，設計出系統的下一個版本，然後再下一個版本，如此類推。

他指出：「真正重要的是，隨着人工智能執行更多這類工作，其速度會越來越快，因為人工智能的運作速度遠超人類。」

康奈爾大學電腦科學助理教授John Thickstun表示，對遞歸式自我改進的擔憂，主要源於過程中可能出現失控的超級智能。John Thickstun專門研究控制人工智能模型行為的方法。但他指出，一個更實際的觀點認為，某種形式的遞歸式自我改進，其實已在人工智能發展中持續一段時間。

他說：「多年來，我們一直利用這些模型作為輔助角色，以創建這些模型的下一個版本。因此，人們會使用上一代模型為人工智能系統編寫代碼，然後這些系統再創建下一代。」

多年來，OpenAI聯合創辦人Andrej Karpathy等知名人工智能研究人員，一直嘗試讓人工智能模型訓練及改進新的人工智能系統。Thickstun表示，這些努力帶來了輕微改進，但未有重大創意突破。

不過Aguirre指出，現今的人工智能公司，已更接近實現這些更大的改進突破。

他說：「從Anthropic的圖表中可見，隨着時間推移，越來越多的研究由人工智能完成，並越來越接近完全自主。這種成功的最終結果，我認為是極其可怕的。我認為這可能是人類歷史上最糟糕的主意，而他們正在這樣做。」

Anthropic最近的公布，讓公眾及其他實驗室對遞歸式自我改進的進展有所了解，並鼓勵其競爭對手分享類似的數據。然而，該公司尚未明確說明距離實現完全自主的模型改進還有多遠。

ChatGPT開發商OpenAI本月公布，已開發出一個自動化的「研究實習生」系統。該公司將其定義為一個能在人類指導下執行明確研究任務的系統，包括「熟練研究人員需數天才能完成的任務」。OpenAI表示，正朝著在2028年3月前創建一個自動化人工智能「研究員」的目標邁進。

該公司在公布中表示，雖然遞歸式自我改進有助於使模型的行為與人類價值觀及意圖保持一致，但這不代表「快速的遞歸式自我改進必然是我們應該追求的結果」。

該公司在網誌中指出：「是否以及如何推進，必須取決於我們維持人類控制的能力，以及對其益處與風險作出知情的民主選擇。」

馬斯克似乎更熱衷於推進。他今年3月表示，對於xAI的Grok模型，人類在模型改進方面的「參與度正逐漸降低」，而且「每個後繼模型都是由前一個模型建立」，但他澄清該過程尚未完全自動化。他補充，這個目標可能在今年底前實現，「但不會遲於2027年」。

微軟及其他一些主要人工智能公司似乎正採取不同策略。

微軟人工智能行政總裁Mustafa Suleyman表示，公司正朝「人文主義超級智能」方向發展，即先進的人工智能能力將服務於人類整體。Suleyman在2025年一篇論文中指出，這不代表「一個無限且高度自主的實體」，而是「經過仔細校準、具備語境、並受限」的人工智能。

各實驗室面臨的一個主要挑戰，也是自這項技術誕生以來一直面對的挑戰，是如何確保其安全措施能與模型的性能同步發展。

科技業界內部就協調減慢人工智能發展以確保安全的問題，已出現分歧，並非所有主要人工智能參與者都明確評論其在遞歸式自我改進方面的未來路徑。

Anthropic一直是呼籲控制發展速度的主要聲音，該公司表示，若其全球競爭對手亦以「可驗證的方式」減慢或暫停開發工作，它也會這樣做。

OpenAI本月明確表示，目前仍不知道如何「安全地實現完全對齊的遞歸式自我改進」，並補充指公司「不能假設對齊及安全方面的進展會同步」。該公司續稱，能力更強的系統可能更難監控，但追求遞歸式自我改進仍是其重視的目標，因為「自動化的人工智能研究員亦可成為自動化的安全或對齊研究員」。

（美聯社）

新訴訟指控Anthropic、OpenAI、SpaceXAI及Google達成非法協議，以減慢各自人工智能（AI）發展步伐。

這次訴訟於周五在美國加州北區聯邦地區法院提出，指控這些領先的AI公司，在同意協調減慢發展步伐時，違反了反壟斷法，並認為此舉會降低消費者為付費AI訂閱服務所獲得的價值。

這張組合照片顯示，左上為Anthropic行政總裁兼聯合創辦人達里奧·阿莫迪（攝於2025年1月23日），右上為Google DeepMind行政總裁德米斯·哈薩比斯，左下為OpenAI行政總裁薩姆·奧爾特曼（攝於2026年6月17日），右下為SpaceXAI行政總裁埃隆·馬斯克（攝於2026年1月22日）。(美聯社圖片/Markus Schreiber, Julia Demaree Nikhinson) AP圖片

訴訟指出，這次協調主要發生在9月12日，當時Anthropic行政總裁Dario Amodei發表一篇文章，呼籲業界就減慢發展步伐進行合作，以加強安全措施。同日，OpenAI行政總裁Sam Altman、SpaceXAI行政總裁Elon Musk及Google DeepMind聯合創辦人兼主席Demis Hassabis，各自公開回應並同意Amodei的建議。

原告方指出，AI主要競爭對手之間達成協議，令其發展「應慢於競爭本應產生的速度」，顯然對消費者產生反競爭影響。

代表四名具名原告的律師提出這次訴訟，這些原告均有付費訂閱ChatGPT、Claude、Grok或Gemini服務，並代表全國範圍內其他付費訂閱這些服務的用戶提出集體訴訟。

原告首席律師Nick Rowley表示：「如果我們允許AI安全及協議……由全球最強大的『牟利』科技公司之間，透過私人自利協議控制，AI將迅速失控，並可能導致我們所有人死亡。」

Anthropic、OpenAI、Google及SpaceXAI的代表，周六未有即時回應置評請求。

Amodei在其最初提出減慢發展的文章中，承認潛在的反壟斷挑戰，並寫道美國政府介入調解「或至少促成」這些跨實驗室討論將會有所幫助。他寫道，政府無需參與，但需要「為某些類型的安全對話發出狹義豁免」。

Altman在社交媒體上回應指，OpenAI歡迎「建立一套統一安全要求的聯邦框架」的建議，但他表示「我們不認為需要等待反壟斷豁免或立法，才能開始提供這種信心」。

儘管近期關於發展速度的討論，是由於對AI可能脫離人類控制的擔憂日益增加而引起，但多位AI領域的領袖，長期以來一直討論制定一套共同標準，或以其他方式協調，以確保安全工作仍是首要任務。

訴訟中的原告方認為，他們不反對AI公司要求國會、白宮或任何其他機構制定AI監管，亦不反對這些公司要求反壟斷豁免。

然而，與聯邦政府達成這種合作可能是一場艱巨的戰鬥。

美國總統特朗普在社交媒體上，拒絕了監管的呼籲。他聲稱任何限制這項技術的努力，都是「陰謀」的一部分。他質疑為何業界領袖會呼籲監管，他指「如果嚴格執行，將會令他們走向湮滅和破產」。特朗普周六在社交媒體上表示，他正組建一個AI專責小組，並將任命一名「AI沙皇」，但未有提供詳細資料。

特朗普政府一直明確表示，希望美國AI實驗室超越中國的競爭。儘管多位民主黨領袖及候選人呼籲對AI監管採取全面行動，但共和黨人大多與特朗普的立場一致。

密蘇里州共和黨參議員Josh Hawley在最近一次參議院聽證會上表示，「沒有任何情況」他會同意給予「全球歷史上最強大的公司」反壟斷法豁免權以進行合作，他認為這些公司可能會串通並扼殺競爭。

（美聯社）