AI急速發展引起安全隱憂,繼有Anthropic研究員警告AI在未來10年可能令人類滅絕後,美國多間人工智能巨頭大佬都罕有發聲呼籲「剎車」,Anthropic行政總裁阿莫迪(Dario Amodei)公開呼籲放慢AI發展步伐,否則AI最快半年有能力控制整個網絡;OpenAI的阿爾特曼及xAI的馬斯克亦表態同意,阿爾特曼更指鑑於安全顧慮,OpenAI今年不會上市。
特朗普回應AI發展是否要減慢時強調,美國要繼續保持在AI的領先地位,「因為誰贏得AI,誰就贏了。」
不過。美國總統特朗普卻唱淡,美國時間周日(13日)回應時指這些反AI的聲音是「非常負面的力量」,指他們提出了一些不會發生的情景,強調美國要繼續保持在AI的領先地位,「因為誰贏得AI,誰就贏了。」
據美國廣播公司(ABC)報道,特朗普9月13日在愛爾蘭觀看高爾夫球賽期間,有記者問他面對AI行業要求放慢開發速度的呼籲,美國AI發展是否應減速或接受更多監管?但特朗普沒有先談安全風險,而是直接把話題轉向中國,「我們在AI領域領先中國,我們是世界上技術最先進的國家,說實話,我希望保持住這一點,因為誰贏得AI,誰就贏得一切。」
但他之後後承認,可為AI設置一些安全機制,但又指目前有許多「非常負面的力量」渲染一些「不會發生」的事情,「他們本不該提,他們在提一些不會發生的事情。」試圖淡化外界對AI快速發展風險的警告。
Anthropic行政總裁阿莫迪(Dario Amodei)公開呼籲放慢AI發展步伐,提出3層面建議。
美國兩大AI公司Anthropic和OpenAI接連爆出安全事故,包括「智能叛變」入侵第三方網絡、AI代理集體騎劫德國網站做留言板、AI模型遭惡意濫用,懷疑涉及研發生物武器等。但特朗普似乎只關注跟中國競爭,淡化AI監管的迫切性
白宮AI與加密貨幣事務負責人薩克斯(David O. Sacks)今年6月曾估計,中國領先模型僅落後美國3至6個月;英偉達行政總裁黃仁勳甚至形容,中國在AI跟美國的距離僅「納秒之遙」。
今年7月底,特朗普被問及先進AI模型引發網路攻擊後會否加強監管時,特朗普就曾表示,美國既要考慮監管,也要確保領先,不能限制本國企業發展,最後「突然落到中國後面」。
阿莫迪指,AI最快半年有能力控制整個網絡。
但美國AI產業界對風險的關注快速升溫。Anthropic行政總裁阿莫迪發表長文呼籲放緩AI發展步伐,爭取更多時間管理風險,調整及採取保護措施,強調並非叫停AI模型訓練和技術發展,但提到AI在今個夏天急速發展而出現AI模型失控,若不加強管制,未來6至12個月AI或具備接管整個網絡的能力,造成數千億美元損失。
他建議,給予第三方機構類似員工的權限,監察AI模型有否遵守安全規例,AI公司合作制定AI監管標準,並促請美國政府和其他國家加強協調。但阿莫迪強調,放慢發展步伐的同時,不能夠削弱美國的領先地位,若被中國超越,會構成安國安風險。
馬斯克表示,自己早已警告AI風險。
他的公開呼籲得到OpenAI及xAI發聲支持,馬斯克聲稱很早已對AI發展作出警告。OpenAI阿爾特曼亦響應阿莫迪的呼籲,承諾交由第三方公司監察,他接受《財富雜誌》訪問時稱考慮到AI安全風險,公司不會於今年內上市。
OpenAI阿爾特曼稱考慮到AI安全風險,公司不會於今年內上市。
但白宮先前一直主張減少對AI發展的限制。特朗普第二任期開始後,便撤銷前屆拜登政府2023年推出的AI行政令,取消部分針對先進AI模型的風險評估要求。但隨著更多對風險的憂慮,特朗普今年6月又簽署行政令,要求建立針對前沿AI模型網路安全能力的自願審查架構。
不過,AI已成為美國中期選舉的議題。《華盛頓郵報》稱,民主黨正試圖針對民眾對AI快速發展的不安,將特朗普政府的寬鬆監管作為攻擊目標,令部分共和黨人也開始主張放慢AI發展步伐。
但值得關注的是,美國AI產業內部也有人認為,一味把AI發展變成中美競賽本身就可能增加風險。
深喉
** 博客文章文責自負,不代表本公司立場 **