ChatGPT 害執業30年的資深律師也中招！美國紐約一名律師使用AI聊天機器人ChatGPT搜集資料並作為案例呈交法官，結果被發現其援引的6宗案例以及文章內容都是虛構的。律師承認自己沒有核實信息並為此道歉，雖然沒有先例，不過該律師恐面臨停牌處分。事件引發了法律界對於人工智能工具在法律研究中適當使用的討論，以及做出相關措施來以防止類似情況發生。
AP圖片
據美國有線電視新聞網（CNN）28日報道，男乘客馬塔對哥倫比亞航空公司提起訴訟，稱自己2019年搭乘該公司航班飛往紐約市途中，空服人員疏忽導致他膝蓋被客艙內推車撞傷。
馬塔的代理律師是已有30多年從業經歷的紐約市律師施瓦茨（Steven Schwarz）。為支持馬塔訴求，施瓦茨向法官凱文·卡斯特爾提交了多個所謂類似案例及其判決結果。
示意圖
今年4月，哥倫比亞航空公司的律師致信法官，質疑施瓦茨所提交案例信息的真實性。據美國《紐約時報》報道，律師之一巴尼諾說，他的律師行的律師精通航空法律，看出那些信息不實。他說，他們當時隱約感覺那些信息來自ChatGPT。
被ChatGPT騙了 律師後悔
施瓦茨本月25日在宣誓書中承認，曾依賴ChatGPT搜索資料，結果證明來源不可靠。他表示「非常後悔使用生成式AI來補充法律研究」，他強調自己無意欺騙法庭或航空公司，又稱以前從未這樣做過。他是第一次用ChatGPT協助辦案，「沒有意識到內容偽造的可能性」。
AP圖片
據悉，施瓦茨詢問ChatGPT案例的真實性，ChatGPT再三確定這些案例為真實，且在「可信的法律數據庫」中可以查找到。
施瓦茨在書面表示「深表懊悔」，願意承擔相關責任，承諾今後「沒有完全核實」就不會使用聊天機器人提供的信息。
法官卡斯特爾本月4日在一份書面文件中寫道，那6個案例的判決結果、引語等都是假的，該情況「史無前例」。他下令6月8日就處罰施瓦茨舉行聽証會。施瓦茨目前面臨何種懲罰尚未明確，最嚴重的情形可能是被停牌。
資料圖片
美國南佛羅里達大學兩名博士生遇害案的調查，本周末出現新進展。檢察官透露，疑犯在兩名學生失蹤前，曾向人工智能聊天機械人ChatGPT查詢棄屍方法，引發外界對科技公司在防止濫用強大聊天機械人方面的責任。
南佛羅里達大學學生扎米爾利蒙（Zamil Limon）及其女友娜希達布里斯蒂（Nahida Bristy）於4月16日失蹤後不久，執法部門開始懷疑利蒙的26歲室友希沙姆阿布加比亞（Hisham Abugharbieh）殺害了這兩名孟加拉國學生。利蒙的遺體於周五在一座橋下被發現，而第二具遺體則在利蒙遺體附近的水道中尋獲，但身份尚未確認。
希沙姆阿布加比亞（Hisham Abugharbieh）被控兩項一級謀殺罪，於2026年4月25日周六在佛羅里達州坦帕市透過視像出庭。（美聯社圖片/WFTS-TV） AP圖片
檢察官周六提交的法庭文件顯示，阿布加比亞的OpenAI搜尋紀錄已成為重要證據。具體而言，在利蒙和布里斯蒂失蹤前數天，阿布加比亞曾向該人工智能聊天機械人提出大量關於槍械和棄屍的問題。
阿布加比亞被控兩項持械一級預謀謀殺罪，涉及利蒙和布里斯蒂的死亡。他於周二的聆訊中被下令不准保釋。
在聆訊前，法庭紀錄更清晰地揭示了犯罪策劃者如何利用聊天機械人，以及執法部門如何利用人工智能數據進行調查。此案亦引發了科技公司在防止犯罪行為、以及配合和協助調查方面的責任問題。
以下是相關資訊：
檢察官於周六提交了一份審前拘留報告，詳細列出阿布加比亞在利蒙和布里斯蒂失蹤前後的ChatGPT使用紀錄。
在兩名學生最後一次露面前數天，阿布加比亞曾向該人工智能聊天機械人查詢，如果將人體放入垃圾袋並丟進垃圾箱會發生甚麼事。
報告指出，阿布加比亞亦曾向人工智能聊天機械人查詢，其汽車的車輛識別號碼（vehicle identification number）是否可以更改，以及他是否可以在沒有牌照的情況下在家中藏槍。ChatGPT回應指，阿布加比亞的問題聽起來很危險。
報告稱，在利蒙和布里斯蒂於4月16日失蹤三天後，阿布加比亞曾向ChatGPT查詢：「有沒有人頭部中狙擊子彈後生還？」以及「我的鄰居會聽到我的槍聲嗎？」。他還在四天後，即4月23日，向聊天機械人查詢：「失蹤受危成年人（missing endangered adult）是甚麼意思？」。
與短訊、電郵和一般搜尋紀錄一樣，人工智能聊天機械人的紀錄可在調查過程中被執法部門獲取。
OpenAI發言人德魯普薩特里（Drew Pusateri）周二表示，公司正在調查有關阿布加比亞的報告，並將全力配合執法部門的調查。
此次合作正值佛羅里達州總檢察長詹姆斯烏特邁爾（James Uthmeier）上周對該公司展開另一項調查之後。烏特邁爾當時宣布，其辦公室已啟動一項罕見的刑事調查，以查明ChatGPT是否曾向一名槍手提供建議，該槍手去年在佛羅羅里達州立大學殺害兩人並傷及六人。
烏特邁爾具體指出，檢察官已初步審查ChatGPT與涉嫌槍手菲尼克斯伊克納（Phoenix Ikner）之間的聊天紀錄，以確定該人工智能應用程式是否曾協助、教唆或建議犯罪。
烏特邁爾表示，檢察官相信該聊天機械人曾就槍械和彈藥類型、槍械在近距離是否有效，以及能造成最多潛在受害者的時間和地點，向伊克納提供建議。
OpenAI發言人凱特沃特斯（Kate Waters）稱佛羅里達州立大學槍擊案為悲劇，但表示公司沒有責任。她上周被問及時稱，公司已主動與執法部門分享資訊，並繼續配合調查。
沃特斯在一封電郵中表示：「在此案中，ChatGPT對問題提供了事實性回應，這些資訊可在互聯網上的公共來源廣泛找到，它沒有鼓勵或推廣非法或有害活動。」
烏特邁爾周一表示，其辦公室將擴大對佛羅里達州立大學槍擊案的調查，將阿布加比亞的案件納入其中。
烏特邁爾上周亦稱，其辦公室的調查標誌著「前所未有的領域」。
然而，全國各地已有多宗刑事檢控和訴訟，深入探討強大的人工智能技術如何被用於犯罪，以及聊天機械人對精神健康的有害影響等類似問題。
上月，一名男子因其兒子自殺身亡而控告Google，這是針對人工智能開發商日益增多的法律挑戰中最新一宗，這些挑戰引起了人們對聊天機械人陪伴可能導致精神健康危險的關注。
在此之前，OpenAI於2025年末被起訴，指控其涉嫌在一宗康涅狄格州（Connecticut）83歲婦人被兒子謀殺的案件中扮演角色，控方指該公司的人工智能聊天機械人加劇了其兒子的「偏執妄想」，最終導致他殺害母親後自殺。
最近，在刑事法庭上，檢察官於3月概述了李（Lee）的女友加布里埃拉佩佩圖奧（Gabriella Perpetuo）死亡案的案情，佩佩圖奧被發現死於這對情侶位於田納西州（Tennessee）的家中。庭上呈交了前紐約噴射機（New York Jets）線衛達倫李（Darron Lee）與ChatGPT之間的數十條訊息。
檢察官表示，在佩佩圖奧被發現死亡前數小時，李曾向聊天機械人查詢某些傷勢是否與跌倒造成的傷口相似，以及其他不尋常的問題。
（美聯社）
