美國檢察官濫用AI引虛假案例！被禁上庭半年　須接受倫理及法律教育

美國佐治亞州（Georgia）最高法院5月5日對一名檢察官作出紀律處分，禁止其上庭半年，理由是她濫用人工智能（AI）工具，在處理謀殺案時引用了虛假及誤導性的案例。

美國檢察官濫用AI引虛假案例

在此次風波中，最高法院發現下級法院在2025年駁回一名謀殺案被告重審請求的裁決中，出現「大量虛構或錯誤的案例引用」。法院指出：「引用不存在的案例，或不支持其所引用論點的案例，違反本法院的規則，亦遠低於我們對佐治亞州檢方行為的期望。」

法官其後採納擬議命令的大部分內容

路透社報道指，Deborah Leslie以人工智能生成的虛假內容，出現於她準備的一份擬議命令中，該命令旨在敦促法官駁回謀殺案被告提出的重審請求。法官其後採納了擬議命令的大部分內容，包括偽造的引用，最終駁回了被告的請求。

被禁上庭半年

法院最終下令禁止克萊頓縣（Clayton County）助理地方檢察官Deborah Leslie在六個月內出庭，並要求她接受倫理、訴訟文書寫作及正確使用人工智能的額外法律教育。

美國佐治亞州（Georgia）最高法院5月5日對一名檢察官作出紀律處分，禁止其上庭半年，理由是她濫用人工智能（AI）工具。資料圖

Meta因應外界批評，指其新推出的人工智能工具，將Instagram帳戶內容用作生成人工智能圖像的素材，已收回該工具的一項功能。

這次行動於周五公布，距離Instagram及Facebook的母公司Meta，透過旗下人工智能助理Meta AI，推出首個圖像生成模型Muse Image，不足一周。

檔案圖片：2025年4月29日，加州門洛帕克舉行的人工智能開發者大會LlamaCon 2025上，一個視像屏幕顯示Meta的標誌。(美聯社圖片/Jeff Chiu) AP圖片

Meta發表聲明指，公司原意是提供一個實用的創意工具，並讓用戶控制其公開內容是否可被這樣引用。Meta又指，已收到意見反映這項功能未達預期，因此已將其下架。

Muse Image與其他具備圖像生成功能的人工智能應用程式一樣，可根據用戶建議生成圖像。然而，它亦會自動將所有公開Instagram帳戶上載的相片，用作人工智能工具生成新圖像時的參考。

此舉引發社交媒體上大量帖文，指出私隱問題，並教導Instagram用戶如何選擇不讓Muse Image存取其帳戶。

荷里活亦迅速對這項圖像生成功能表達關注。

美國演員工會-美國廣播電視藝人聯合會（SAG-AFTRA）促請其會員更改Instagram帳戶設定，以保護其肖像權。

SAG-AFTRA在社交平台X發表聲明，讚揚Meta關閉該功能的決定。

該工會表示：「未經同意的數碼複製品所帶來的危險眾所周知，一項鼓勵這種行為的功能是不明智的。我們感謝其停止運作，這是正確的做法。」

（美聯社）