大視野
英王查理斯三世在蘇格蘭與多名人工智能企業領袖舉行峰會，席間警告人工智能技術一旦落入不法之徒手中，可能帶來生存威脅，並呼籲各方建立管控機制。
英王查理斯三世。AP圖片
出席這次峰會的包括Nvidia行政總裁黃仁勳，以及OpenAI和Anthropic的代表等。查理斯三世在會上指出，人工智能具備改善生活甚至挽救生命的潛力，尤其在生命科學和醫療領域更見突出；然而，開發者正越來越多地提出警告，指這項技術可能發展出更黑暗的能力，甚至可能奪走生命。
英王查理斯三世與Nvidia行政總裁黃仁勳。AP圖片
他認為，似乎有迫切需要充分考慮這類技術落入不法之徒手中，並被用於可能造成災難性後果用途所帶來的生存威脅，呼籲在為時已晚之前建立管控機制。
英王查理斯三世。AP圖片
黃仁勳則表示，人工智能必須本著負責任的樂觀主義原則進行開發，開發者自身應承擔責任。他認為，企業在產品準備妥當之前不應發布，但仍應盡可能快地推進開發。
人工智能實驗室Anthropic周四公布，旗下人工智能模型Claude正協助公司開發下一代更智能的模型。
Anthropic表示，Claude目前主導公司模型研發工作的百分之二十六，意味它可在人類監督下，從高層次指令「端到端」完成大部分指定任務。該模型尚未完全自主運作。
檔案照片：2026年2月26日，紐約一部電腦屏幕上顯示Anthropic網站頁面及公司標誌。(美聯社圖片/Patrick Sison) AP圖片
不過，公司約百分之九十的研發工作，是與Claude「協作」完成。Anthropic指，這代表模型可在人類密切指導下，完成「大量工作」。
這次公布之際，部分人工智能界領軍人物，主要由Anthropic行政總裁達里奧·阿莫迪牽頭，正呼籲基於安全考慮，減慢這項技術的發展。
公司在網誌中表示，當領袖們考慮人工智能的發展速度時，「我們應盡一切可能，縮小前沿實驗室所知與公眾所知之間的差距。」又指「這意味要更好地衡量人工智能的發展，公開匯報，並讓社會有機會決定如何使用這些資訊。」
公司稱，模型加速自身發展，可能令「人類更難理解或控制這些系統」。它認為，分享這些指標有助更好地了解領先的人工智能實驗室，距離實現遞歸式自我改進，即模型自主構建其繼任者的能力，還有多遠。
Anthropic亦敦促其他人工智能開發商定期分享類似指標，鼓勵採用公開方法，以便數據可隨時間推移，甚至跨實驗室進行比較。
Anthropic的披露並未明確顯示，公司認為距離實現遞歸式自我改進還有多遠，但Claude對研發工作的貢獻日益增加，其速度值得關注。Claude「主導」或在人類監督下完成大部分工作的比例，二月時為零。六個月後，即八月，已主導四分之一的研發工作，達到該基準。
公司亦分享了其代理人監督措施的細節，指出截至八月，約有三萬個代理人從事研究及工程工作。公司表示，監督措施對於了解監測系統偵測到代理人不當行為的頻率至關重要。Anthropic最近承諾設立外部第三方評估員，他們將進駐公司內部，監察安全工作。
一名Anthropic研究員上周辭職，並發出關於該技術對人類構成威脅的嚴峻警告，引發了近期許多關於人工智能安全的討論。阿莫迪、OpenAI行政總裁薩姆·奧爾特曼、埃隆·馬斯克及其他科技領袖此後均支持減慢發展的建議，但其他科技領袖及美國總統特朗普則持反對意見。
（美聯社）
