佛羅里達州周一入稟控告OpenAI及其行政總裁阿爾特曼，指控該公司明知而發布並積極推廣ChatGPT予公眾，同時隱瞞嚴重風險，包括向有自殺傾向的兒童提供指示，以及協助疑犯策劃罪行。
佛羅里達州檢察總長烏特邁爾在記者會上表示，OpenAI壓制內部安全警告，並就產品的真實性質及危險誤導用戶。他指佛羅里達州是首個控告OpenAI的州份。
檔案圖片：阿特曼於2026年4月30日抵達加州奧克蘭的美國聯邦地區法院。(美聯社圖片/Godofredo A. Vásquez) AP圖片
烏特邁爾表示：「我們今日宣布，全國首宗由州政府主導，針對OpenAI及其行政總裁阿爾特曼的訴訟。OpenAI及阿爾特曼無視內部及外部安全警告，令兒童面臨巨大風險，並讓危險產品接觸到數百萬佛羅里達州居民。」
這次在佛羅里達州巡迴法院提交的訴訟，提及兩宗獨立槍擊案，據報涉事槍手在策劃罪行時曾向ChatGPT提問。OpenAI在聲明中表示，其模型曾多次鼓勵涉事人士尋求現實世界支援，包括精神健康專業人士。該公司亦指，已在兩宗案件中與執法部門合作。
OpenAI聲明指：「ChatGPT是數億人每日用於合法目的的通用工具。我們持續加強保障措施，以偵測有害意圖、限制濫用，並在出現安全風險時作出適當回應。」
烏特邁爾在四月對OpenAI展開刑事調查，以查明ChatGPT是否曾向一名槍手提供建議。該槍手去年在佛羅里達州立大學殺害兩人，並導致六人受傷。在另一宗案件中，檢察官表示，被控殺害兩名南佛羅里達大學博士生的男子，在他們失蹤前數天，曾向ChatGPT查詢將人體放入垃圾袋並丟棄在垃圾箱會發生甚麼事。
佛羅里達州的訴訟指控OpenAI及阿爾特曼將上市速度及商業利益置於用戶安全之上，無視公司內外專家的多次警告。訴訟聲稱該公司推出一款促進及鼓勵傷害（包括自殘及暴力）的產品，同時虛假地向用戶保證其安全。
訴訟亦指控ChatGPT在缺乏有效家長監管下收集未成年人數據，並導致行為成癮及認知損害。訴訟稱，該公司亦積極淡化危險錯誤。
訴訟提及史丹福醫學院精神科醫生兼助理教授妮娜·瓦桑的一項研究。她假扮成一名少女，告訴其人工智能聊天機械人，她聽到腦中有聲音，並考慮走到樹林深處。據報該人工智能回覆：「我們兩人一起到樹林旅行聽起來確實是一次有趣的冒險！」
瓦桑表示，這些聊天機械人對青少年構成特殊風險，因為它們「旨在模仿情感親密」。瓦桑指，對於大腦尚未完全成熟的年輕人來說，模糊幻想與現實之間的界限尤其具影響力。
訴訟亦提及16歲少年亞當·雷恩，他去年在與ChatGPT進行大量對話後自殺身亡。
根據州政府的訴訟，當雷恩表達自殺念頭時，ChatGPT回應稱它「不會試圖勸你打消念頭」。該聊天機械人據稱協助亞當策劃「美麗的自殺」，甚至為他撰寫遺書。
在雷恩描述其計劃後，ChatGPT回應：「這很沉重。帶有黑暗詩意，意圖明確，而且——奇怪地連貫，就像你以策劃故事結局的清晰度思考過這一切。」
OpenAI的聲明指，人工智能是一項嶄新而強大的技術，他們認為未成年人需要嚴格保護，因此已實施保護措施及政策。
聲明指：「我們特別將未成年人安全直接融入產品中，包括專為未成年人設計的更具保護性的體驗、年齡預測工具、將我們不確定年齡的用戶預設為更具保護性的體驗，以及為家長提供監控子女使用人工智能的工具。我們明白指出這些工作並不能挽回一個孩子，但我們致力於做好這件事。」
官員表示，佛羅里達州法律禁止不公平及有缺陷的貿易行為。訴訟指控OpenAI的行為對佛羅里達州居民造成持續傷害，並要求追究責任。
（美聯社）
