人工智能初創公司Anthropic,在創下史上最大規模公開招股紀錄的短短五年前,始於矽谷一間初創公司。當時其創辦人因對人工智能發展有不同理念,從OpenAI分拆出來。
這間公司致力將安全置於首位,並開發了Claude聊天機械人。如今,它卻成為最響亮地發出警告的聲音之一,指出同一技術可能帶來災難。
Anthropic聯合創辦人兼行政總裁達里奧·阿莫迪(右)與聯合創辦人兼總裁丹妮拉·阿莫迪(左),周四(2026年11月19日)在紐約納斯達克市場中心,出席Anthropic上市敲鐘儀式時的反應。(美聯社圖片/Seth Wenig) AP圖片
這是標誌著Anthropic短暫而豐富歷史的矛盾之一。該公司周四在華爾街首日掛牌,市值達1.75萬億美元。
Anthropic仍然承諾優先考慮人類福祉,但現在面臨股東壓力,要求從其最資深領導人形容為構成生存威脅的技術中榨取利潤。
Anthropic聯合創辦人兼行政總裁達里奧·阿莫迪(中),周四(2026年11月19日)在紐約納斯達克市場中心,與聯合創辦人兼總裁丹妮拉·阿莫迪(中左)、聯合創辦人兼首席運算官湯姆·布朗(右)、聯合創辦人兼公共利益主管積克·克拉克(右二)、聯合創辦人兼首席科學官賈里德·卡普蘭(右三)、聯合創辦人兼可解釋性研究主管克里斯·奧拉(左三)、聯合創辦人兼首席架構師山姆·麥坎德利什(左二)及其他同事,出席Anthropic上市敲鐘儀式時慶祝。(美聯社圖片/Seth Wenig) AP圖片
Anthropic行政總裁達里奧·阿莫迪周四形容,安全與人工智能發展之間的拉鋸是「公司核心的主要矛盾」之一。
他在接受CNBC訪問時形容,人工智能發展的迅速步伐,很大程度上歸因於先進模型協助構建下一代改進版本,猶如建造一件讓司機以每小時約322公里行駛的工具,而他們此前僅以每小時約97公里行駛。他表示,其公司正致力安全地發展這項技術。
Anthropic的標誌周四(2026年11月19日)在紐約納斯達克市場中心大樓上展示,作為Anthropic上市的一部分。(美聯社圖片/Andres Kudacki) AP圖片
他指出:「我們在速度方面基本上是說,『看,我們本可以以每小時約322公里行駛。或許我們只以每小時約145公里行駛,花時間研究如何安全地做到這一點。』餘下的資源則用於以正確方式構建模型。」
該公司的七位創辦人,包括43歲的達里奧·阿莫迪、39歲的其胞妹兼Anthropic總裁丹妮拉·阿莫迪,以及其他五位前OpenAI員工,離開了競爭對手公司,旨在建立一間更明確將人工智能發展安全置於首位的公司。
Anthropic公開承諾其人工智能模型的安全性和透明度,但內部人士近月卻敲響警鐘。
Anthropic一名研究員於九月辭職,批評Anthropic和OpenAI的安全措施。雅各布·科克森的訊息引發了業界對人工智能增長速度的廣泛討論,他撰文指出Anthropic和OpenAI都在「拿我們的生命作賭注」。他警告,一些從事人工智能開發的人認為,這項技術可能在本年代末威脅人類生命。
達里奧·阿莫迪撰文回應,呼籲業界放慢技術發展步伐。他詳細列出減緩發展並促進行業及國家間協調的計劃,並倡議在Anthropic及其他實驗室內設立獨立評估員。
然而,至少其中一份獨立評估的結果突顯了科克森的擔憂。非牟利組織「模型評估與威脅研究」最近一份報告發現,Anthropic發展其系統的速度比一年前快約一倍,主要歸因於人工智能本身的協助。
阿莫迪周四在納斯達克開市敲鐘儀式上表示,公司「最艱鉅的安全工作仍在前方」。
他強調:「我明確指出,我們將會調整人工智能系統的訓練和部署速度,花費所需時間以確保其安全並維持在人類控制之下。」
Anthropic是一間公益企業,意味著它有法律義務平衡股東利益與公共利益。但這類公司很少上市,而少數上市的公司規模亦遠小於Anthropic,因此該公司正在進入未知領域。
該公司表示正努力實現「人工智能的益處由所有人共享」的未來,但這次公開招股為其創辦人、員工及其他投資者創造了極度集中的財富。
據《福布斯》報道,在公開招股前,阿莫迪兄妹兩人的淨資產均略超140億美元。截至周四下午,達里奧·阿莫迪的淨資產為227億美元,丹妮拉·阿莫迪的淨資產為228億美元。
阿莫迪兄妹及其他聯合創辦人表示,他們承諾將八成股權捐贈予慈善事業,儘管這項承諾是自願的。公司設有股權捐贈配對計劃,允許員工捐贈股權,Anthropic會進行配對。Anthropic亦承諾將至少百分之五的股份撥入「公共利益」基金。
丹妮拉·阿莫迪周四接受CNBC訪問時表示,公益企業的概念在他們最初創立公司時「打動」了創辦人。
她說:「我們確實正在努力做一些我們認為可以帶來巨大經濟價值和影響的事情,但我們希望將其融入我們的基本架構中,即我們亦必須平衡這與為人類創造有益事物。」
Anthropic上月向證券交易委員會提交的文件中,以異常冗長的93頁篇幅闡述了必須向投資者說明的風險因素。其中一項擔憂是,先進人工智能系統可能「對人類構成災難性或生存威脅」。
一些人認為,Anthropic以純粹透明度之名,闡述其技術及競爭對手技術可能帶來的毀滅性後果。但批評者質疑該公司在強調這些反烏托邦式潛在威脅的同時,卻將自身定位為基於其安全導向的合理解決方案。
《周末夜現場》九月的一個短劇將這種矛盾變成笑點。演員珍·威克林飾演達里奧·阿莫迪,說道:「山姆·阿爾特曼、我自己,所有主要的人工智能參與者,我們都廣泛討論過這個問題,我們都達成共識:我們不認同我們正在做的事情。」
《周末夜現場》的虛假訪問以一句似乎引起了懷疑者共鳴的台詞作結,這句台詞周四出現在Anthropic三藩市總部外的一個抗議標語上:「我敦促你敦促我停止。」
(美聯社)