Anthropic建議全球頂尖人工智能公司，協調暫停開發先進人工智能系統。該公司警告，人工智能技術發展迅速，人類或有失去控制的風險。
開發聊天機械人Claude的Anthropic，周四在網誌發文指，隨著尖端人工智能執行任務的速度越來越快，「世界最好有選項，可以減慢或暫時暫停」其發展。
檔案圖片：2026年2月26日，紐約，電腦屏幕上顯示Anthropic網站頁面及公司標誌。(美聯社圖片/Patrick Sison) AP圖片
Anthropic表示，其內部研究機構計劃與其他機構合作探討這個問題，並「採取行動」協助建立系統，以實現可信的減速或暫停，但未有透露更多細節。
Anthropic的競爭對手OpenAI，周三發表報告提出不同做法，指「民主政府，而非單獨行動的私人公司，最終必須決定規則、保障措施和問責機制」。
OpenAI表示：「我們認為，關於人工智能創新步伐的決定，不應由任何單一實驗室、公司或特殊利益集團負責。」
Anthropic在帖文中指出，人工智能模型正變得越來越快，它們能迅速自行執行編程等軟件任務。根據目前趨勢，並在足夠運算能力下，人工智能系統或能設計及開發自己的後繼者，這被稱為「遞歸式自我改進」。
Anthropic表示，自我構建的人工智能將是一個重要的技術里程碑，為科學、醫療保健及其他領域帶來好處，但「亦可能增加人類失去人工智能系統控制權的風險」。
部分科技業界人士，長期以來一直警告這種情況。
Anthropic發文前，多倫多大學一個研究團隊本周亦發出警告，展示人工智能工具如何用於創建一種新型人工智能「蠕蟲」，該蠕蟲在設備之間傳播時會調整其入侵策略，並接管龐大的電腦網絡。
首席研究員Nicolas Papernot接受訪問時表示：「我認為人們必須明白，構成安全隱患的不僅是最大、最強大的語言模型。」
Anthropic帖文的作者，公司聯合創辦人Jack Clark及其研究機構主管Marina Favaro表示，暫停開發將用於讓「社會結構和對齊研究」跟上人工智能的進步。對齊是業界術語，指確保技術符合人類價值觀和意圖。
建議的協調機制將讓先進人工智能實驗室，核實全球競爭對手是否確實已停止或減慢工作，「以及不良行為者無法利用協調減速的幌子，秘密地搶先一步」。
該公司表示，需要一個協調的全球機制，因為若沒有它，人工智能發展的減速可能讓「最不謹慎」的參與者追趕上來，並增加公司和政府在就人工智能安全作出艱難選擇時的壓力。
Anthropic發文之際，該公司與ChatGPT開發商OpenAI正競相在股票市場出售股份，Anthropic的首次公開招股估值或接近一萬億美元。
Papernot在發布報告前，已通知加拿大網絡安全當局。報告顯示研究人員如何在實驗室中，利用一個軟件開發人員可輕鬆廉價獲取和修改的「開源」人工智能工具，開發出該蠕蟲。
他表示：「過去，網絡攻擊者會專注於價值非常高的目標。銀行系統、醫院、電網、水處理系統、學校。」
Papernot同意，公司、政府機構和學術研究人員之間應加強合作，開發應對措施，因為人工智能驅動的入侵工具，正大大加速尋找電腦漏洞。
他指：「你放在地庫、沒有定期檢查的舊手提電腦，看起來不是一個高價值目標，但它可以用作攻擊這些更高價值目標的發射台。任何連接到互聯網的東西現在都面臨風險，因為發動這些網絡攻擊的成本已變得非常低。」
（美聯社）
