ChatGPT虛構6案例 紐約律師信以為真引用或面臨停牌

ChatGPT 害執業30年的資深律師也中招！美國紐約一名律師使用AI聊天機器人ChatGPT搜集資料並作為案例呈交法官，結果被發現其援引的6宗案例以及文章內容都是虛構的。律師承認自己沒有核實信息並為此道歉，雖然沒有先例，不過該律師恐面臨停牌處分。事件引發了法律界對於人工智能工具在法律研究中適當使用的討論，以及做出相關措施來以防止類似情況發生。

AP圖片

據美國有線電視新聞網（CNN）28日報道，男乘客馬塔對哥倫比亞航空公司提起訴訟，稱自己2019年搭乘該公司航班飛往紐約市途中，空服人員疏忽導致他膝蓋被客艙內推車撞傷。

馬塔的代理律師是已有30多年從業經歷的紐約市律師施瓦茨（Steven Schwarz）。為支持馬塔訴求，施瓦茨向法官凱文·卡斯特爾提交了多個所謂類似案例及其判決結果。

示意圖

今年4月，哥倫比亞航空公司的律師致信法官，質疑施瓦茨所提交案例信息的真實性。據美國《紐約時報》報道，律師之一巴尼諾說，他的律師行的律師精通航空法律，看出那些信息不實。他說，他們當時隱約感覺那些信息來自ChatGPT。

被ChatGPT騙了 律師後悔

施瓦茨本月25日在宣誓書中承認，曾依賴ChatGPT搜索資料，結果證明來源不可靠。他表示「非常後悔使用生成式AI來補充法律研究」，他強調自己無意欺騙法庭或航空公司，又稱以前從未這樣做過。他是第一次用ChatGPT協助辦案，「沒有意識到內容偽造的可能性」。

AP圖片

據悉，施瓦茨詢問ChatGPT案例的真實性，ChatGPT再三確定這些案例為真實，且在「可信的法律數據庫」中可以查找到。

施瓦茨在書面表示「深表懊悔」，願意承擔相關責任，承諾今後「沒有完全核實」就不會使用聊天機器人提供的信息。

法官卡斯特爾本月4日在一份書面文件中寫道，那6個案例的判決結果、引語等都是假的，該情況「史無前例」。他下令6月8日就處罰施瓦茨舉行聽証會。施瓦茨目前面臨何種懲罰尚未明確，最嚴重的情形可能是被停牌。

資料圖片

加拿大一名律師疑貪方便用ChatGPT寫狀書，竟「生造」兩案例震驚法官。

據《BBC》報導，一名加拿大女律師代表富商向正在處理分居糾紛的妻子提出申請，要求准許他帶孩子前往中國旅行。在撰寫狀書時，她利用ChatGPT來協助，並使用該模型搜尋世界各地類似案例，最終選擇了兩個案例並提交給法庭。

AP圖片

然而，當對方律師無法找到這兩個案例並向女律師詢問時，她才驚覺出了問題。最終確認這兩個案例是由ChatGPT所「編造」，根本不存在。

AP圖片

英屬哥倫比亞省最高法院的法官對此事感到震驚，並相信女律師並非故意欺騙法庭。然而，法官下令女律師支付對方律師因此事產生的費用，並要求女律師審視案中的其他文件。當地律師協會已展開調查，以檢視女律師的行為是否違反了專業守則。

示意圖。設計圖片