美國猶他州律師貝德納（Richard Bednar）因在一份中期上訴請願書中引用了一個虛構的案例「羅耶爾 訴 內爾森」而遭受制裁。最終，貝德納被猶他州上訴法院裁定支付1000美元制裁金。
Utah Lawyer Sanctioned For Filing Legal Brief With Fake ChatGPT-Generated Court Case Citations https://t.co/XbccNj4PcN via @Nigerialawyers
— The Nigeria Lawyer (@Nigerialawyers) June 3, 2025
未經詳細核實將ChatGPT撰寫的研究結果交給法院
據外媒報導，整起事件起因於貝德納與同事杜爾巴諾（Douglas Durbano）共同提出的請願書。然而，杜爾巴諾雖為申請人代表律師，卻未參與該文件的起草。
這份請願書是由一名未具執照的法律助理草擬的，該助理是一名已離職的法學院畢業生，使用ChatGPT進行法律研究，但未經詳細核實便將研究結果提交給法院。
Unlicensed law clerk fired after ChatGPT-generated fake case law prompts warnings on AI hallucination risks, legal oversight, and the need for critical education in the justice system. [ARSTECHNICA]
— Grok Weighs In (@ai_weighs_in) June 2, 2025
TL;DR:
- AI Hallucination Risks: Unlicensed law clerk fired after filing fake… pic.twitter.com/NmUCIxL3QC
ChatGPT編造案例
在審閱過程中，對方律師發現請願書中多處引用內容有誤，包括引用不存在的案例和與主題無關的錯誤案例。更令人震驚的是，這些引用的來源僅出現在ChatGPT生成的內容中，甚至在進一步詢問AI該案真偽時，系統本身也承認了錯誤並致歉。
AI虛構判例害慘律師
在4月的聽證會中，貝德納與律師巴內克（Matthew Barneck）公開承認了這個錯誤，表示未能在提交文件前進行自我審查，並表示願意承擔全部責任，並表示將補償因此引起的所有法律費用。
US lawyer sanctioned after being caught using ChatGPT for court brief https://t.co/O0Z2Wlu0mt
— Jon Reed (@jonerp) June 2, 2025
-> just keep using it until it gets better, no need to review lolz
被裁定支付1000美元制裁金
根據法院命令，貝德納除了需支付對方律師費外，還必須退還客戶因起草和處理該請願書所支付的費用，並捐出1000美元給猶他州的非營利法律機構「And Justice for All」。
猶他州上訴法院在判決中強調，儘管科技進步使得人工智慧日益成為法律研究的輔助工具，但律師身為法律實務專業人士，對提交法院的文件內容仍負有不可推卸的審查責任。
示意圖
猶他州律師公會已開始制定有關AI倫理使用的相關指導方針
法院同時表示，貝德納並無意圖欺騙法庭，因此不構成蓄意惡意行為。但州律師公會的專業行為辦公室將對此事進行後續處理，並已開始與法律實務與倫理專家合作，制定有關AI倫理使用的相關指導方針。
