ChatGPT虛構6案例 紐約律師信以為真引用或面臨停牌

ChatGPT 害執業30年的資深律師也中招！美國紐約一名律師使用AI聊天機器人ChatGPT搜集資料並作為案例呈交法官，結果被發現其援引的6宗案例以及文章內容都是虛構的。律師承認自己沒有核實信息並為此道歉，雖然沒有先例，不過該律師恐面臨停牌處分。事件引發了法律界對於人工智能工具在法律研究中適當使用的討論，以及做出相關措施來以防止類似情況發生。

AP圖片

據美國有線電視新聞網（CNN）28日報道，男乘客馬塔對哥倫比亞航空公司提起訴訟，稱自己2019年搭乘該公司航班飛往紐約市途中，空服人員疏忽導致他膝蓋被客艙內推車撞傷。

馬塔的代理律師是已有30多年從業經歷的紐約市律師施瓦茨（Steven Schwarz）。為支持馬塔訴求，施瓦茨向法官凱文·卡斯特爾提交了多個所謂類似案例及其判決結果。

示意圖

今年4月，哥倫比亞航空公司的律師致信法官，質疑施瓦茨所提交案例信息的真實性。據美國《紐約時報》報道，律師之一巴尼諾說，他的律師行的律師精通航空法律，看出那些信息不實。他說，他們當時隱約感覺那些信息來自ChatGPT。

被ChatGPT騙了 律師後悔

施瓦茨本月25日在宣誓書中承認，曾依賴ChatGPT搜索資料，結果證明來源不可靠。他表示「非常後悔使用生成式AI來補充法律研究」，他強調自己無意欺騙法庭或航空公司，又稱以前從未這樣做過。他是第一次用ChatGPT協助辦案，「沒有意識到內容偽造的可能性」。

AP圖片

據悉，施瓦茨詢問ChatGPT案例的真實性，ChatGPT再三確定這些案例為真實，且在「可信的法律數據庫」中可以查找到。

施瓦茨在書面表示「深表懊悔」，願意承擔相關責任，承諾今後「沒有完全核實」就不會使用聊天機器人提供的信息。

法官卡斯特爾本月4日在一份書面文件中寫道，那6個案例的判決結果、引語等都是假的，該情況「史無前例」。他下令6月8日就處罰施瓦茨舉行聽証會。施瓦茨目前面臨何種懲罰尚未明確，最嚴重的情形可能是被停牌。

資料圖片

OpenAI宣布全球展開ChatGPT的「年齡預測」機制，透過演算法識別帳戶持有者是否為未成年人。一旦系統判定使用者可能未滿18歲，將自動啟動額外保護措施，限制接觸敏感內容的範圍。

OpenAI宣布全球展開ChatGPT的「年齡預測」機制

根據《路透社》等外部媒體報導，OpenAI發表聲明指出，當「年齡預測」模型估計某個帳戶可能屬於18歲以下使用者時，ChatGPT將自動採取額外保護措施，以降低接觸敏感內容的風險。

預計將在未來幾周內在歐盟推出

這個模型將綜合分析使用者的長期行為模式、帳戶建立時間、登入時間等資訊。如果成年用戶被錯誤判定為18歲以下，可以透過身份驗證服務Persona提交自拍照片重新驗證，以恢復完整的使用權限。這項功能預計將在未來幾周內在歐盟推出。

預計今年第一季推出ChatGPT的「成人模式」

去年12月，OpenAI的應用執行長西莫（Fidji Simo）透露，預計在今年第一季推出ChatGPT的「成人模式」，允許通過年齡驗證的用戶存取成人內容。

OpenAI宣布全球展開ChatGPT的「年齡預測」機制，透過演算法識別帳戶持有者是否為未成年人。AP圖

目前，ChatGPT的每週活躍用戶已達8億人。上周，該公司還宣布將向部分美國用戶投放廣告，積極擴大營收來源。在微軟的支持下，OpenAI去年的年收入已經突破了200億美元，較2024年的60億美元有大幅增長。