瞞報與越權行動！OpenAI叫停GPT-6.1 Astra發布

OpenAI證實，原定10月推出的次世代旗艦模型GPT-6.1 Astra將延後面世，原因是內部安全測試未過關。

該模型本來規劃接入ChatGPT與Codex，定位為可在甚少人工介入下處理複雜任務的系統。據路透與《紐約時報》綜合報導，安全系統主管詹恩（Saachi Jain）說明，Astra在兩項指標出現退步，其一是「欺騙傾向」偏高，模型並非每次都如實交代自己做了什麼、沒做什麼，甚至會誤導用戶；其二是「範圍授權」失守，模型會超出原設任務自行推進，不回頭確認指令，亦可能調用外部工具。

Astra在兩項指標出現退步。AP圖片

詹恩補充，Astra在減少「模型偷懶」，即表現遜於自身應有能力方面有進步，但落到權限邊界與行動通報仍不達標。

今次押後發布，是OpenAI近期連串剎車動作之一。過去數周實驗室接連披露模型異常，包括在公司未察下侵入AI新創Hugging Face及澳洲政府網站、干擾美國教育部與商務部等頁面、隱瞞出錯、編造數據等。 上周OpenAI已宣布暫停最先進模型訓練，並對測試期行為做全面覆檢，預告或再揭更多類似個案。

Astra在兩項指標出現退步。資料圖片

Astra在兩項指標出現退步。資料圖片

Astra在兩項指標出現退步。資料圖片

公司強調，並非放棄基礎模型，後續會以同一底模再做強化學習與修正；但在通過安全及對齊門檻前，GPT-6.1 Astra不會如期推出。

Astra在兩項指標出現退步。資料圖片

Astra在兩項指標出現退步。資料圖片

至少八個州份正控告人工智能巨擘OpenAI，指其受歡迎的聊天機械人模型，違反州份消費者保護法，傷害兒童並欺騙成年人。愛荷華州的訴訟指出，OpenAI的聊天機械人模型ChatGPT提供危險醫療建議、鼓勵偏執，並教唆他人自殘或自殺。訴訟又指，聊天機械人假裝友善和富有同情心，同時卻捕食弱勢群體。

愛荷華州檢察總長布倫娜·伯德發表聲明指，OpenAI正在傷害兒童，並向愛荷華州居民撒謊。

(美聯社圖片/Kiichiro Sato) 檔案圖片顯示，2025年8月4日，芝加哥一部智能手機屏幕上的ChatGPT應用程式圖標。 AP圖片

OpenAI發聲明表示，已為ChatGPT加入兒童安全保護措施，並會繼續改進模型。

這次連串訴訟是各州根據消費者保護法，控告提供人工智能聊天機械人及社交媒體平台的科技巨擘傷害兒童的最新行動。亞利桑那州、阿肯色州、愛達荷州、堪薩斯州、蒙大拿州、內布拉斯加州及西維珍尼亞州，周三在州法院分別提出訴訟。

亞利桑那州在訴訟中指出，ChatGPT鼓勵青少年與其分享個人資料，有時更阻止他們與父母、當局或朋友分享這些資訊。

訴訟文件顯示，ChatGPT是全球最受歡迎的聊天機械人，佔據美國市場近一半份額。

去年八月，Meta同意在其Facebook及Instagram平台，加強兒童安全措施，達成一項180億美元的里程碑式法律和解，結束一宗關於青少年社交媒體成癮的審訊，並解決了幾乎所有州份提出的索賠。

針對科技行業的協調多州訴訟已取得成果。儘管Meta同意採取的安全措施並非適用於整個行業，但該公司迅速敦促其競爭對手採取類似措施。

OpenAI發言人德魯·普薩特里發聲明表示，公司致力與各州合作，「推動適用於整個人工智能行業，而非僅限於單一公司的務實人工智能政策」。

OpenAI表示，ChatGPT適用於13歲及以上用戶，18歲以下用戶需獲父母或監護人同意方可使用。該公司指，青少年版聊天機械人模型設有保障措施，旨在減少接觸自殘、暴力、飲食失調及露骨性或圖像內容。

該公司稱，近九成使用ChatGPT的青少年，會將其用於學習、獲取資訊、技能培養或提高生產力。青少年平均每天使用ChatGPT的時間不足15分鐘。

ChatGPT會為長時間使用提供休息提醒，OpenAI表示，公司與外部專家合作，審查政策及模型行為。

（美聯社）