人工智能業界警告紐約市議會 籲加強監管防範潛在危險

人工智能業界人士周一警告紐約市領袖，指新興科技存在危險，呼籲加強監管，因應地方政府正回應外界日益關注，擔心有關系統可能危及人類。

在紐約市議會的聽證會上，Anthropic、OpenAI及Google DeepMind最近離職員工形容這些公司存在魯莽文化，指最大的科技公司正競相開發他們不了解如何控制的技術。

攝影師在紐約市議會的人工智能安全聽證會上，旁邊展示人工智能安全事故列表。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

Anthropic前工程師雅各布·科克森表示，他已成為監管領域的主要倡導者，指：「這些公司以初創企業的心態運作：快速行動、破壞現狀、之後修復。這對於照片分享應用程式可行，但對於開發有史以來最強大的技術則不可行。」

各州及市政府一直在考慮規管人工智能的方法，由於特朗普政府採取被動態度，國會亦證明不活躍。美國總統特朗普已將人工智能的擔憂斥為「騙局」，並於上月底簽署一份協議，列明公司應採取一系列自願措施，並主要允許它們自我監管。

從左上起，OpenAI的摩根·德懷爾、Meta的沙恩·卡希爾、Google的愛麗絲·弗蘭德及Anthropic的洛根·格雷厄姆，透過視像會議在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

科克森在Anthropic曾是一名鮮為人知的工程師，直至他透過一系列社交媒體帖文宣布離職，引起全球關注。他向市議會表示，人工智能可能帶來巨大好處，但若缺乏透明度和保障措施，情況更有可能失控。

科克森指：「以目前發展路徑，我認為人類更有可能失去對這些人工智能的控制，並可能導致人類滅絕。」

雅各布·科克森在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

科克森辭職並表達對最壞情況的擔憂數天後，包括Anthropic的達里奧·阿莫迪、OpenAI的薩姆·阿爾特曼、SpaceXAI的埃隆·馬斯克在內的高層行政人員表示，他們同意人工智能的發展需要放緩。人工智能公司已詳細說明他們為優先考慮安全而採取的措施，但協調業界放緩發展面臨多重障礙。

一組人工智能公司員工，代表科技巨頭OpenAI、Anthropic、Google及Meta，周一亦在曼哈頓的聽證會上作證，向官員表示他們的系統已改善人們的日常生活，並強調他們高度專注於安全。

雅各布·科克森準備在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

Anthropic及OpenAI表示，他們先進的人工智能產品需要受到規管，而公司代表在聽證會上對市議會的一些建議表示開放態度。

OpenAI的摩根·德懷爾表示：「我與你們一樣致力於確保技術安全發展，並讓其好處廣泛共享。」

雅各布·科克森準備在紐約市議會的人工智能安全聽證會上作證。攝於紐約，周一，2026年10月5日。(美聯社圖片/Seth Wenig) AP圖片

聽證會期間，市議會議長朱莉·梅寧要求每位公司代表「量化人工智能在最壞災難性情況下構成的風險」。

德懷爾回應：「我不知道——我也不認為是1%、10%還是20%的機會會發生災難性錯誤。這些水平都絕不可接受。我們不應訓練那些我們無法極力證明能保持在人類控制之下的模型。」

梅寧批評該回應「充其量只是輕率」。

德懷爾表示：「我會說百分比機會並不重要。重要的是對安全的承諾，這正是OpenAI致力於做的事情。」

市議會正考慮多項人工智能規例，包括建議要求公司披露人工智能工具的資訊、要求市內人工智能系統獲得第三方批准，以及允許舉報者從違反法律的人工智能公司罰款中獲得部分款項。

另外，紐約州州長、民主黨人凱西·霍楚爾已著手實施人工智能的報告及透明度標準，其他地方的州長亦有此舉，儘管他們的權力有所限制，因為人工智能技術可跨越州界及全球。

Anthropic的洛根·格雷厄姆向市議會表示，公司歡迎「智能規管」，並指州及地方政府在制定框架方面可發揮作用。

他指：「人工智能足夠強大，一旦出錯將對個人、機構及公眾信任造成實際後果。我們必須不懈努力，進行風險緩解的科學研究。」

（美聯社）

人工智能企業工作管理平台Smartsheet今日宣布，已完成資訊安全註冊評估員計劃（IRAP）評估，達到「官方：敏感」分類級別。這次評估確認Smartsheet符合澳洲政府處理敏感數據的安全及管治標準。對於澳洲政府機構及受規管組織而言，這意味他們可以在Smartsheet上連接跨系統工作，並利用人工智能管理工作，而不會損害對數據的控制。隨著組織越來越依賴人工智能代理與人協同工作，擁有強大的管治基礎變得更為重要。

這次評估由澳洲網絡安全公司Sekuro進行，根據澳洲政府資訊安全手冊（ISM）的要求，對Smartsheet進行了評估。透過這次獨立第三方審查，澳洲政府機構及受規管行業的組織獲得文件化驗證，證明他們可以信任Smartsheet安全管理其最重要工作，同時符合嚴格監管要求。這次評估亦有助簡化採購、風險評估及供應商審查流程，減少採用障礙，並協助組織更快從Smartsheet中獲得價值。

Smartsheet已完成資訊安全註冊評估員計劃（IRAP）評估，達到「官方：敏感」分類級別，確認該平台符合澳洲政府處理敏感數據的安全及管治標準。 AP圖片

Smartsheet亞太區副總裁兼總經理賈羅德·金欽頓指出：「對於澳洲政府機構及高度受規管組織而言，採用新技術首先要證明其能獲信任處理敏感數據。IRAP為他們提供了這項證明，並獲得獨立評估的支持。這亦指向一個更重要的事實：我們從根本上建立值得信賴的平台，因此政府機構及企業可以在Smartsheet上運行最關鍵的工作，並擴展人工智能，而不會損害安全或控制。」

這次IRAP評估建立在公司致力滿足澳洲政府機構及受規管組織不斷演變的信任、管治及合規要求的基礎上。去年，公司推出了Smartsheet澳洲區域，這是一個數據駐留選項，設於悉尼，並在墨爾本設有備份基礎設施。這項服務允許客戶將數據保留在澳洲境內，讓他們對數據託管地點有更大控制權，並支持他們符合當地私隱要求，包括澳洲私隱法。

這些投資以平台企業級安全、私隱及管治能力為基礎，包括最低權限許可模式，以及傳輸中及靜止時的強大加密。Smartsheet亦獲得全球認可認證，例如SOC 2 Type II、ISO 27001、ISO/IEC 27701、ISO 27017及ISO 22301。公司最近獲得ISO 42001認證，這是全球首個人工智能管理系統國際標準，驗證公司運行嚴格的人工智能管理系統。

IDC澳洲及新西蘭區集團副總裁兼首席分析師賴利納斯表示：「IRAP等獨立驗證讓政府機構及受規管組織對平台符合安全及合規要求的能力更有信心。當結合數據駐留及企業級管治時，它們可以幫助減少採用障礙並支持更快的數碼轉型。」

Smartsheet是一個人工智能企業工作管理平台。團隊利用它來規劃項目、跨團隊追蹤工作、自動化日常流程，並為領導層提供工作進度實時可見性。它介乎於靈活但難以管治的試算表，以及為單一團隊而設的僵化項目工具之間。Smartsheet被數百萬組織用戶使用，包括大部分財富500強企業，並具備企業級安全、管理及合規控制。

（美聯社）