人工智能業界警告紐約市議會 籲加強監管防範潛在危險

人工智能業界人士周一警告紐約市領袖，指新興科技存在危險，呼籲加強監管，因應地方政府正回應外界日益關注，擔心有關系統可能危及人類。

在紐約市議會的聽證會上，Anthropic、OpenAI及Google DeepMind最近離職員工形容這些公司存在魯莽文化，指最大的科技公司正競相開發他們不了解如何控制的技術。

攝影師在紐約市議會的人工智能安全聽證會上，旁邊展示人工智能安全事故列表。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

Anthropic前工程師雅各布·科克森表示，他已成為監管領域的主要倡導者，指：「這些公司以初創企業的心態運作：快速行動、破壞現狀、之後修復。這對於照片分享應用程式可行，但對於開發有史以來最強大的技術則不可行。」

各州及市政府一直在考慮規管人工智能的方法，由於特朗普政府採取被動態度，國會亦證明不活躍。美國總統特朗普已將人工智能的擔憂斥為「騙局」，並於上月底簽署一份協議，列明公司應採取一系列自願措施，並主要允許它們自我監管。

從左上起，OpenAI的摩根·德懷爾、Meta的沙恩·卡希爾、Google的愛麗絲·弗蘭德及Anthropic的洛根·格雷厄姆，透過視像會議在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

科克森在Anthropic曾是一名鮮為人知的工程師，直至他透過一系列社交媒體帖文宣布離職，引起全球關注。他向市議會表示，人工智能可能帶來巨大好處，但若缺乏透明度和保障措施，情況更有可能失控。

科克森指：「以目前發展路徑，我認為人類更有可能失去對這些人工智能的控制，並可能導致人類滅絕。」

雅各布·科克森在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

科克森辭職並表達對最壞情況的擔憂數天後，包括Anthropic的達里奧·阿莫迪、OpenAI的薩姆·阿爾特曼、SpaceXAI的埃隆·馬斯克在內的高層行政人員表示，他們同意人工智能的發展需要放緩。人工智能公司已詳細說明他們為優先考慮安全而採取的措施，但協調業界放緩發展面臨多重障礙。

一組人工智能公司員工，代表科技巨頭OpenAI、Anthropic、Google及Meta，周一亦在曼哈頓的聽證會上作證，向官員表示他們的系統已改善人們的日常生活，並強調他們高度專注於安全。

雅各布·科克森準備在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

Anthropic及OpenAI表示，他們先進的人工智能產品需要受到規管，而公司代表在聽證會上對市議會的一些建議表示開放態度。

OpenAI的摩根·德懷爾表示：「我與你們一樣致力於確保技術安全發展，並讓其好處廣泛共享。」

雅各布·科克森準備在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

聽證會期間，市議會議長朱莉·梅寧要求每位公司代表「量化人工智能在最壞災難性情況下構成的風險」。

德懷爾回應：「我不知道——我也不認為是1%、10%還是20%的機會會發生災難性錯誤。這些水平都絕不可接受。我們不應訓練那些我們無法極力證明能保持在人類控制之下的模型。」

梅寧批評該回應「充其量只是輕率」。

德懷爾表示：「我會說百分比機會並不重要。重要的是對安全的承諾，這正是OpenAI致力於做的事情。」

市議會正考慮多項人工智能規例，包括建議要求公司披露人工智能工具的資訊、要求市內人工智能系統獲得第三方批准，以及允許舉報者從違反法律的人工智能公司罰款中獲得部分款項。

另外，紐約州州長、民主黨人凱西·霍楚爾已著手實施人工智能的報告及透明度標準，其他地方的州長亦有此舉，儘管他們的權力有所限制，因為人工智能技術可跨越州界及全球。

Anthropic的洛根·格雷厄姆向市議會表示，公司歡迎「智能規管」，並指州及地方政府在制定框架方面可發揮作用。

他指：「人工智能足夠強大，一旦出錯將對個人、機構及公眾信任造成實際後果。我們必須不懈努力，進行風險緩解的科學研究。」

（美聯社）

SolarWinds作為具人工智能驅動的可觀察性、事件回應、數據庫管理及IT服務管理軟件的領先供應商，今日宣布推出Avior™。Avior是一個獨立、目標導向的代理式人工智能系統，專為關鍵任務IT環境而設。Avior建基於SolarWinds®平台，將協助IT團隊安全地界定目標、協調專門代理，並追蹤混合數碼生態系統中可衡量成果的進度。

隨著科技基礎設施日益複雜且對業務至關重要，不確定的結果可能帶來不可接受的風險及成本，大部分IT機構已默默承受停機時間、審計風險及資深工程師時間的損失。人工智能需要提供成本節省、減少停機時間及整體營運韌性，讓團隊能夠在正常運行時間、安全性及整體IT營運面臨風險的環境中進行衡量。

Avior目標儀表板 AP圖片

Avior旨在承擔一線工作，讓團隊不僅能更具策略性，並能主動應對其不斷擴展的數碼資產需求。作為一個獨立應用程式，它跨產品及環境運作，從操作員角度診斷問題或行動，並透過進階根本原因分析，追蹤涵蓋整個資產的目標。

企業人工智能專為信任及控制而設

Avior標誌 AP圖片

Avior在嚴格安全防護措施內運作，具備風險分級自主性，因此潛在危險行動始終需要明確的人手批准。Avior以SolarWinds在其產品組合中採用的負責任人工智能框架「AI by Design」為基礎，透過詳細審計追蹤、目標追蹤、自動回溯支援、數據遮蔽及嚴格的最低權限工具存取，保護客戶環境，同時讓人手參與其中。

Avior亦建基於三大核心支柱，以確保系統在關鍵任務環境所需的嚴格防護措施內，提供強大成果：

Avior能為企業做甚麼

Avior將人工智能智能與確定性執行框架結合，在明確防護措施、批准控制及可審計工作流程內，追蹤預設目標。這為IT團隊提供從洞察到行動更受控及可重複的路徑，協助他們超越被動式應急處理。現時使用Avior，團隊可自信地協調一系列營運成果，未來將有更多功能推出：

SolarWinds臨時行政總裁兼產品總監Cullen Childress表示：「IT營運長期以來都以團隊回應速度來衡量。但隨著環境變得更複雜、分散及嘈雜，單靠回應時間已不足夠。機構需要主動出擊，降低營運風險，並將韌性融入IT工作方式。Avior旨在應對當前時刻，協助團隊從管理警報轉變為透過明確目標、防護措施及控制來協調成果。」

Radiology Partners可觀察性工程師Steven Khan表示：「作為醫療行業的可觀察性工程師，我的職責是確保我們的工程師擁有工具及能力，以確保環境及基礎設施始終運行良好，讓我們的放射科醫生能夠完成他們所需的工作。Avior就像多了一位隊友，它不僅展示發生了甚麼事，更會作為深入探討的一部分，實際尋找相關證據及洞察，你可以與隊友分享及展示，以解釋問題如何發生。Avior的目標導向能力有助管理警報，並大大減少處理問題所需的時間，保持環境整潔。」

Avior將於2026年10月14日起透過指導式入門計劃提供。如欲了解更多，包括SolarWinds如何推動現代IT營運的目標導向人工智能資訊，請瀏覽相關網站。

SolarWinds Day 2026

歡迎於10月14日（歐洲、中東及非洲地區與美洲地區）及10月15日（亞太及日本地區）虛擬參與SolarWinds Day！探索我們專為IT營運而設的全新目標導向人工智能、觀看實時示範，並了解可觀察性、數據庫、事件回應及IT服務管理領域的未來發展。

您的數據仍歸您所有。僅傳送與請求相關的數據，且僅傳送用戶已獲准查看的數據。數據保持加密，對於自行託管的環境，數據會透過Platform Connect直接安全地傳輸至SolarWinds平台，而非直接傳輸至模型。此外，客戶數據會被遮蔽，不會用於訓練底層模型。

Avior建基於SolarWinds二十五年來的遙測數據、拓撲結構、配置歷史及警報情境，涵蓋網絡、系統、應用程式、數據庫及雲端，並透過模型情境協議（MCP）支援第三方系統。Avior在目標導向的控制循環中運作，其透明度讓您可查看其思維的每一步，並透過精細的自主控制及安全預設值進行控制。此外，Avior執行內置風險控制，且代理旨在不超越其設計限制。

SolarWinds人工智能助理專注於在SolarWinds產品內提供實用協助，受人手關注及提示所限。Avior是代理式人工智能，旨在您的控制下，在您的數碼資產中獨立運作，無論是自行託管還是雲端環境，均使用您已啟用的每個SolarWinds或第三方產品整合的綜合數據。每項行動均受風險限制，繼承發起用戶的權限，並會被記錄。

不需要，團隊無需進行任何遷移項目。Avior適用於自行託管及SaaS環境。這讓代理能夠在混合雲及本地基礎設施中無縫運作。

SolarWinds是領先供應商，提供簡潔、強大、安全的觀察性及IT管理軟件，旨在協助客戶加速數碼轉型。我們的解決方案為全球機構（無論類型、規模或複雜程度）提供當今現代化、分散式及混合式網絡環境的全面及統一檢視。我們持續與IT服務及營運專業人員、DevOps及SecOps專業人員，以及數據庫管理員（DBA）互動，了解他們在維護高效能及高可用性混合IT基礎設施、應用程式及環境方面所面臨的挑戰。我們從他們（例如在我們的THWACK社區）獲得的洞察，使我們能夠滿足客戶現在及未來的需求。我們以用戶為中心，並致力於端到端混合IT管理的卓越表現，使SolarWinds成為可觀察性、IT服務管理、應用程式效能及數據庫管理解決方案的全球領導者。

SolarWinds、SolarWinds & Design、Orion及THWACK商標是SolarWinds Worldwide, LLC或其附屬公司的獨有財產，已在美國專利及商標局註冊，並可能已在其他國家註冊或正在申請註冊。所有其他SolarWinds商標、服務標誌及標誌可能是普通法商標或已註冊或正在申請註冊。本文提及的所有其他商標僅用於識別目的，並為其各自公司的商標（及可能為註冊商標）。

© 2026 SolarWinds Worldwide, LLC. 版權所有。

（美聯社）