人工智能巨企Anthropic計劃在華爾街上市，根據規定，公司必須向投資者披露潛在風險。Anthropic這次披露的風險中，包括其產品可能威脅人類生存。
這間總部設於三藩市的公司，周一向證券交易委員會提交的文件中，列出多項風險。當中提及不法分子可能利用人工智能模型製造致命武器，或技術本身失控，造成無法預計的後果。
(美聯社圖片/Markus Schreiber, 檔案圖片) Anthropic行政總裁兼聯合創辦人達里奧·阿莫迪，2025年1月23日出席在瑞士達沃斯舉行的世界經濟論壇年會。 AP圖片
Anthropic的文件長達335頁，涵蓋公司財務、高層薪酬、股息政策等內容，其中93頁專門闡述「風險因素」，即可能損害潛在股東投資的因素。相比之下，競爭對手SpaceX的風險因素部分，在超250頁的文件中佔38頁。
Anthropic向投資者推銷時，將這次首次公開招股定位為減輕人工智能潛在風險的其中一步。
公司創辦人在首次公開招股文件中致潛在股東的信中指出，開發人工智能是駕馭認知本身，任何如此強大的事物，既可用於善，亦可用於惡。他們強調，Anthropic是一間以價值觀為導向的機構，成立的主要目的，是協助世界實現人工智能的益處，並避免其危險。
不過，公司面臨的風險眾多，由日常營運層面，例如未能挽留關鍵員工或應對監管障礙，到涉及網絡攻擊及危險錯誤資訊的傳播等。
Anthropic表示，其模型可能發展過快，導致公司無法實施足夠的安全措施，這或會增加安全事故、監管干預或聲譽受損的可能性，並可能對公司業務造成不利影響。
Anthropic行政總裁達里奧·阿莫迪去年9月曾警告，人工智能在六至十二個月內，可能具備領導一群代理程式，並接管整個互聯網的能力。這次警告，以及Anthropic目前出售股份的舉動，正值業界內外對人工智能的擔憂日益加劇。外界關注，愈來愈強大的系統，雖然能解決超越人類能力的問題，但亦可能自行採取行動，執行其他更具破壞性的任務。
證券交易委員會的文件指出，隨著人工智能系統變得更自主，並在較少人為監督下採取重大行動，這類系統存在在沒有人為干預下，獨立且大規模地採取有害行動的風險。
Anthropic表示，即使其自身模型未造成此類損害，任何前沿人工智能涉及的重大安全事故，都可能對人工智能行業造成廣泛聲譽損害、引發公眾反彈，以及導致全面的監管回應，這或會對公司業務造成不利影響。
文件指出，由於人工智能模型現已參與Anthropic自身的研發工作，人工智能可能發展到「超出我們評估和保護新模型的能力」。文件續指，這可能對Anthropic的業務造成不利影響。
文件討論了對先進人工智能系統的擔憂，若這些系統在開發和操作時缺乏足夠的保障和監督，可能對人類構成災難性或生存風險，特別是當這些系統被濫用、複製、武器化，或被允許高度自主運作時。
公司表示，若不法分子使用其產品造成損害，或其模型防護措施未能阻止此類濫用，公司將會受損。
Anthropic勾勒出不法分子利用人工智能模型製造化學武器，或獨裁統治者轉向該技術鎮壓公民的可能性。公司去年9月披露，已阻止利用其人工智能模型進行惡意活動的嘗試，包括網絡攻擊、監控，以及可能導致生物武器研發的研究。
運算能力，即建立、測試和改進人工智能模型所需的運算能力或資源，成本高昂且需求殷切。Anthropic指出，若未能獲得足夠的運算能力，或未能有效分配運算資源以應對不同工作負載，公司可能無法訓練出與競爭對手保持競爭力的模型，或無法充分服務客戶。
Anthropic提及社區對數據中心的反對，是其業務風險之一。文件指出，數據中心發展已引發公眾對環境影響、土地和水資源使用，以及有限電力資源分配的爭議和監管審查。文件補充，若監管機構因此實施新要求或收費，公司的營運能力可能受損。
此外，公司大部分收入依賴少數客戶，包括SpaceX和微軟，以及分銷渠道。Anthropic表示，這意味著即使其中一個大客戶決定縮減規模，甚至完全放棄公司，其前景和財務狀況都可能受損。
在某些方面，人工智能的巨大風險，結合其巨大潛力，正是Anthropic的主要賣點。公司一直致力將自身定位為負責任的人工智能企業，並透過強調安全意識來爭取商業客戶。
文件指出，公司相信前沿人工智能企業必須投資於安全和對齊，以協助確保這項技術的負責任傳播。
Zacks投資研究首席市場策略師布賴恩·馬爾伯里表示，首次公開招股交易必須「非常清晰」地展示人們投資新上市公司股票時所面臨的風險。
他指出，國內資本市場的優點之一，是必須承諾的高度透明度。在美國交易所上市的公司，需要非常清晰地列出這些風險，以便人們了解是否願意投入辛苦賺來的金錢，參與這類交易。
美聯社商業記者伯納德·康登及美聯社科技記者凱特琳·華馬尼對此報道亦有貢獻。
（美聯社）
Enveda 是一間生物科技公司，利用人工智能將天然化學物質轉化為新藥。公司今日公布與 Anthropic 合作的成果，旨在簡化藥物研發中關鍵的文件處理流程。Enveda 透過 Claude 開發人工智能工作流程，審閱「優良生產規範」紀錄，並草擬「試驗中新藥」申請書大部分內容。過程中，公司仍維持專家監督及現有品質控制。
這次合作重點在於將藥物帶給病人的一個重要環節：準備及審閱監管與品質文件。藥物研發團隊需審閱數千頁的生產、實驗室及臨床紀錄，確保每個數據準確記錄並可追溯來源。這些流程可能需時數月，甚至會限制高效率的藥物發現平台。
Enveda 總部實驗室 AP圖片
Enveda 創辦人兼行政總裁 Viswa Colluru 表示，公司成立宗旨是以前所未有的規模探索大自然，並將其化學物質轉化為更優質的藥物，以更快速度推出。他指出，與 Anthropic 的合作顯示，人工智能亦可協助消除研發過程中的下游瓶頸。透過為科學家提供工具，令複雜的監管工作更快捷可靠，團隊可投放更多時間推動藥物研發，造福病人。
Enveda 開發了「CMC 文件處理器」（CDP），這是一個以 Claude 為基礎的應用程式。CDP 會為公司的審閱人員標示可能存在的問題，再由審閱人員決定如何處理。CDP 了解文件類型、其相互關係、適用的技術及監管要求，以及研發計劃的歷史。它利用這些背景資訊提供即時審閱，旨在反映審計師會尋找甚麼，以識別可能令計劃面臨風險的問題。
由 Claude 驅動的 CDP 識別出人類審閱人員提出的所有可採取行動問題，以及七個與審計師相關的額外問題 AP圖片
Enveda 利用一個第二階段生產活動的 1,061 頁批次紀錄，評估 CDP 的效能。四名內部審閱人員及一支經驗豐富的外部顧問團隊獨立審閱相同紀錄。其後，Enveda 品質團隊成員根據審計師預期會提出的問題，裁定每項意見。
CDP 在其運行中，識別出人類審閱發現的所有 11 個可採取行動的問題。一次計時運行亦提出七個與審計師相關的額外問題，Enveda 品質部門在批次發布前已與製造商解決。這些問題包括一個超出約定限制的工序步驟，以及一個標示為「失敗」但沒有記錄結果的測試。
由 Claude 驅動的 CDP 將藥物批次紀錄的審閱時間減少了 89% AP圖片
系統曾因誤讀手寫筆記而犯下一個錯誤，但它將該解讀歸類為需要驗證，而非事實呈現。在評估過程中，Enveda 的審閱並未在 CDP 中發現任何虛假結果。
計時運行亦將總審閱時間，由 Enveda 四名審閱人員的近 26 小時，縮短至不足三小時（包括人工裁定），即減少了 89%。Enveda 品質團隊在任何批次發布前，仍會對每份紀錄進行最終審閱。
Enveda 與 Anthropic AP圖片
在另一項計劃中，CDP 識別出一個非「優良生產規範」示範藥物批次中雜質迅速積聚的問題，而人類審閱人員卻錯過了。提早發現這些風險有助於防止批次損失，並避免可能代價高昂的臨床延誤。
Enveda 亦與 Claude 合作，準備「試驗中新藥」申請書第二部分的實質內容。該工作流程並非直接從研究報告生成申請書，而是首先從毒理學、生物分析及藥物動力學的原始文件中提取結構化事實，匯入共享數據層。
這個單一的真實來源，讓 Enveda 能夠在整個申請過程中，使用一致且可追溯的資訊。當原始事實或分析需要修改時，團隊可在草稿的所有相關部分進行更新。
為核對工作，Enveda 將 Claude 的草稿與其團隊已手寫完成的第二部分進行比較。審閱草稿後，Enveda 的藥物研發及品質團隊認為其與專業醫學撰稿人所產生的作品相若。若非人工撰寫版本已提交予出版商，他們會樂意提交該草稿。Claude 在四小時內生成了初稿，而 Enveda 手動撰寫一份可比的初稿則需約三個月。這兩個數字均不包括專家審閱的時間。
同時，Claude 利用相同的原始資料草擬了一份「研究者手冊」。Enveda 審閱人員僅發現一個輕微的單位換算錯誤，修正後，Enveda 將該手冊作為完整「試驗中新藥」申請的一部分，提交予美國食品藥物管理局（FDA）。
Anthropic 生命科學主管 Aris Theologies 表示，他們相信人工智能有潛力加速藥物研發。他指出，為此必須解決從生產到臨床試驗過程中的瓶頸。Enveda 展示了 Claude 如何協助人們處理關鍵但耗時的文件工作，並為最終審閱及批准作準備。透過建立這些人工智能工作方法，人們可專注於研究，從而更快地治療病人。
在這兩個項目中，Claude 均支援 Enveda 的專家，而非取代既定的品質流程。系統從未直接寫入受監管的 GxP 紀錄。Enveda 人員審閱並批准了每項發現及草稿，而公司的驗證文件管理系統仍是紀錄系統。
Enveda 是一間生物科技公司，利用人工智能將天然化學物質轉化為新藥。Enveda 的平台識別並描述生物體產生的分子，為開發治療有重大未滿足需求的疾病創造新機會。自 2019 年以來，Enveda 已生產 17 種候選藥物，其中三種正進行臨床試驗。
（美聯社）
