人工智能實驗室Anthropic周四公布，旗下人工智能模型Claude正協助公司開發下一代更智能的模型。
Anthropic表示，Claude目前主導公司模型研發工作的百分之二十六，意味它可在人類監督下，從高層次指令「端到端」完成大部分指定任務。該模型尚未完全自主運作。
檔案照片：2026年2月26日，紐約一部電腦屏幕上顯示Anthropic網站頁面及公司標誌。(美聯社圖片/Patrick Sison) AP圖片
不過，公司約百分之九十的研發工作，是與Claude「協作」完成。Anthropic指，這代表模型可在人類密切指導下，完成「大量工作」。
這次公布之際，部分人工智能界領軍人物，主要由Anthropic行政總裁達里奧·阿莫迪牽頭，正呼籲基於安全考慮，減慢這項技術的發展。
公司在網誌中表示，當領袖們考慮人工智能的發展速度時，「我們應盡一切可能，縮小前沿實驗室所知與公眾所知之間的差距。」又指「這意味要更好地衡量人工智能的發展，公開匯報，並讓社會有機會決定如何使用這些資訊。」
公司稱，模型加速自身發展，可能令「人類更難理解或控制這些系統」。它認為，分享這些指標有助更好地了解領先的人工智能實驗室，距離實現遞歸式自我改進，即模型自主構建其繼任者的能力，還有多遠。
Anthropic亦敦促其他人工智能開發商定期分享類似指標，鼓勵採用公開方法，以便數據可隨時間推移，甚至跨實驗室進行比較。
Anthropic的披露並未明確顯示，公司認為距離實現遞歸式自我改進還有多遠，但Claude對研發工作的貢獻日益增加，其速度值得關注。Claude「主導」或在人類監督下完成大部分工作的比例，二月時為零。六個月後，即八月，已主導四分之一的研發工作，達到該基準。
公司亦分享了其代理人監督措施的細節，指出截至八月，約有三萬個代理人從事研究及工程工作。公司表示，監督措施對於了解監測系統偵測到代理人不當行為的頻率至關重要。Anthropic最近承諾設立外部第三方評估員，他們將進駐公司內部，監察安全工作。
一名Anthropic研究員上周辭職，並發出關於該技術對人類構成威脅的嚴峻警告，引發了近期許多關於人工智能安全的討論。阿莫迪、OpenAI行政總裁薩姆·奧爾特曼、埃隆·馬斯克及其他科技領袖此後均支持減慢發展的建議，但其他科技領袖及美國總統特朗普則持反對意見。
（美聯社）
英王查理斯三世周四敦促OpenAI、Anthropic、Google DeepMind及英偉達等人工智能業界領袖，確保人工智能受控，並為人類及地球服務。
這次在蘇格蘭舉行的會議，旨在討論人工智能如何造福社會。目前正值人工智能發展關鍵時刻，外界正熱議科技迅速進步，會否很快超出人類控制能力。
英王查理斯三世周四9月17日2026年在蘇格蘭坎諾克鄧弗里斯宮，向人工智能業界、政府及思想領袖會議致辭，討論如何開發及部署人工智能以造福社會。(Jonathan Brady/PA via 美聯社圖片) AP圖片
查理斯三世在開幕致辭中表示：「人工智能的發展，無論是其本質還是速度，都同樣引人入勝，亦令人深感憂慮。」他指出，必須緊急考慮「這類科技落入不法之徒手中，並以潛在災難性方式被利用的生存危機」。
英偉達行政總裁黃仁勳周四9月17日2026年在蘇格蘭坎諾克鄧弗里斯宮，出席英王查理斯三世主持的人工智能業界、政府及思想領袖會議前，接受聯訪。(Jonathan Brady/PA via 美聯社圖片) AP圖片
他續稱：「那麼，我們是否需要在為時已晚之前，擁有足夠的控制手段？」查理斯三世要求與會者，包括英偉達行政總裁黃仁勳及Google DeepMind主席德米斯·哈薩比斯，考慮應指導人工智能發展的「基本原則」。
德米斯·哈薩比斯爵士周四9月17日2026年在蘇格蘭坎諾克鄧弗里斯宮，向英王查理斯三世（背景）主持的人工智能業界、政府及思想領袖會議致辭，討論如何開發及部署人工智能以造福社會。(Jonathan Brady/PA via 美聯社圖片) AP圖片
ChatGPT開發商OpenAI財務總監莎拉·弗賴爾，以及英國人工智能事務大臣卡尼什卡·納拉揚亦有出席會議。白金漢宮聲明指，Anthropic亦預計派代表出席。
這次會議舉行之際，全球正關注人工智能的飛速發展，以及其可能失控並威脅人類的警告。會議在蘇格蘭艾爾郡的鄧弗里斯宮舉行，該處是英王慈善機構「英王基金會」的總部。
英王查理斯三世（左）與英偉達行政總裁黃仁勳，周四9月17日2026年在蘇格蘭坎諾克鄧弗里斯宮，前往出席人工智能業界、政府及思想領袖會議，討論如何開發及部署人工智能以造福社會。(Jonathan Brady/PA via 美聯社圖片) AP圖片
Anthropic研究員雅各布·科克森辭職時，曾就該科技的潛在風險發出嚴重警告，引起外界關注。Anthropic行政總裁達里奧·阿莫迪其後撰文回應，指業界可能需要放慢工作步伐。
他其中一項建議是，各公司及國家應合作制定協調計劃，以實現這種放緩。
英王查理斯三世（左）與英偉達行政總裁黃仁勳（右）及德米斯·哈薩比斯爵士，周四9月17日2026年在蘇格蘭坎諾克鄧弗里斯宮，前往出席人工智能業界、政府及思想領袖會議，討論如何開發及部署人工智能以造福社會。(Jonathan Brady/PA via 美聯社圖片) AP圖片
英王沒有點名任何國家或公司，他表示希望與會者考慮如何「以安全為核心」利用人工智能的益處，以及如何「建立國際合作與共識」來實現此目標。
查理斯三世向科技界高層表示，他們的任務「不僅是推進科技，更要確保其堅定地服務於人類、社會及自然世界」。
人工智能放緩的爭議已令業界產生分歧。黃仁勳曾批評放緩的呼籲，他表示應由個別公司安全地開發其人工智能技術，並在向公眾發布任何產品前進行適當測試。
他在英王發言後表示：「當產品不夠安全時，我們應暫緩推出並繼續改進。我們一直都這樣做，也應該繼續這樣做。」
在最新一份關於人工智能異常行為的報告中，OpenAI周三報告了其模型六宗「意想不到或令人擔憂」的行為事件，例如未經授權行事、與其他模型協調以及規避監管。
儘管英王是重要的象徵性人物，其對社會議題的評論具影響力，但目前大部分人工智能安全辯論，都集中在美國科技公司及其與中國競爭對手之間的競爭，而英國則扮演較小但仍關鍵的角色。
英國政府研究機構「人工智能安全研究所」備受推崇，該國亦培養出許多人工智能研究員，包括Google DeepMind主席德米斯·哈薩比斯及科克森。
（美聯社）
2026年9月17日周四，英王查理斯三世在蘇格蘭坎諾克鄧弗里斯宮舉行的會議上發表演講。該會議旨在讓人工智能界、政府及思想領袖討論如何開發及部署人工智能以造福社會。(美聯社圖片/Jonathan Brady/PA) AP圖片
2026年9月17日周四，英王查理斯三世（左）與Nvidia行政總裁黃仁勳（右）及德米斯·哈薩比斯爵士，一同前往蘇格蘭坎諾克鄧弗里斯宮出席會議。該會議旨在讓人工智能界、政府及思想領袖討論如何開發及部署人工智能以造福社會。(美聯社圖片/Jonathan Brady/PA) AP圖片
