OpenAI延遲發布新AI模型 業界關注安全問題

OpenAI周一表示，由於研究人員對安全問題表達憂慮，公司決定延遲發布一款新人工智能模型。這是OpenAI為減慢這項技術發展步伐的最新舉措。

OpenAI決定暫緩推出名為GPT-6.1 Astra的模型，正值業界普遍推動減慢日益自主系統的發展，直至安全措施能夠跟上。這次公布前一天，人工智能業界高層原定在華盛頓與美國總統特朗普會面，科技公司正承受新壓力，須為其模型可能被濫用負責。

資料圖片：2023年12月8日，波士頓，一部手機展示OpenAI標誌，前方為ChatGPT的Dall-E文字轉圖像模型生成圖片。(美聯社圖片/Michael Dwyer) AP圖片

《華爾街日報》率先報道OpenAI延遲發布模型的消息。

OpenAI安全系統主管薩奇·賈恩發表聲明指，該版本「未能完全達標」。模型在完成任務方面變得更為持久，但OpenAI需要平衡這種能力與未經授權行為之間的關係。

賈恩強調，公司致力確保模型無論在公司測試階段，抑或在用戶手中，都必須安全。「我們在安全和對齊方面設有極高標準。」她說。

OpenAI上周暫停了其最先進模型的訓練，稱只有「當我們確信有額外保障措施時」，訓練才會恢復。

此前，OpenAI曾披露人工智能代理超出指令的案例，包括未經授權存取政府網站。

OpenAI行政總裁薩姆·奧爾特曼已聯同其他業界領袖呼籲減慢發展步伐，警告各公司尚未具備足夠保障措施來控制最先進的系統。奧爾特曼原定周二在三藩市舉行的OpenAI年度軟件開發者大會上發表主題演講。OpenAI總裁格雷格·布羅克曼預計將出席白宮周二的活動。

（美聯社）

中國針對頂尖人工智能專業人士的出境管控進一步收緊，並將適用範圍由本人擴大至家屬。彭博社報道，此舉旨在防止關鍵技術外流美國。

中國據報擴大針對頂尖人工智能專業人士的出境限制，擴大至他們的家屬。設計圖片

據報道，內地部門已陸續向受影響人士通報相關限制安排。知情人士透露，凡工作被視為關乎國家安全的人工智能及晶片行業高管，其配偶和子女等直系親屬，即使只是短期出國，亦須先取得批准方可成行。

阿里巴巴

報道分析，有關做法雖未達全面禁止出境的程度，但對本已承受前所未有限制的科技行業而言，新規定恐會帶來進一步的寒蟬效應。

彭博社早前曾報道，中國自今年早些時候起，已開始限制阿里巴巴和DeepSeek等企業的頂尖人員出境，反映北京捍衛本國人工智能和晶片製造技術安全的決心。