AI新功能變詐騙工具？ChatGPT秒造「超逼真收據」專家警告：驗證機制恐失效

OpenAI3月25日推出了一項新的原生圖片生成功能，一推出就掀起全球熱潮。然而，一些科技專家發現這項新功能竟然還可以偽造發票和帳單，經測試後看起來就和真的發票一樣。

OpenAI推原生圖片生成功能

OpenAI3月25日上線了一項新的原生圖片生成功能，引起使用熱潮。執行長阿特曼（Sam Altman）甚至發文求饒說「我們的GPU都快融化啦！」

ChatGPT秒造「超逼真收據」

知名科技網紅暨創投家達斯（Deedy Das）在個人社交平台上貼出一張在舊金山牛扒館的假收據，他表示這是他使用ChatGPT生成功能所製作的，並寫下：「你可以用生成功能製作假收據。以往現實中的驗證流程仰賴『真實影像』作為證明，但那個時代已經結束了，造假變得更加逼真和難以辨識。」其他網友也紛紛貼出假收據或帳單的照片，發現皺巴巴的發票以及有污漬的收據，通通難不倒ChatGPT，製造出來的成品就像是真實的。

外媒測試現數據誤差

外媒《TechCrunch》網站也測試了一家餐廳的假收據，但發現與原始收據的標點符號以及數字排列出現誤差，暴露出假收據的痕跡。然而該網站也表示，這只是AI運算上的小錯誤，要修正並非難事，甚至只要使用修圖軟件就可以達到造假的效果。

AP圖片

OpenAI發言人克里斯汀森（Taya Christianson）回應表示所有由ChatGPT製作的影像都包含元數據，表明其出處。她補充說，若用戶違反使用政策，OpenAI會「採取行動」，且一直在從現實世界的使用和反饋中「學習」，不會讓新功能變成詐騙工具。

OpenAI發言人：目標是給予用戶「盡可能多的創作自由」

《TechCrunch》進一步詢問，為何允許用戶能夠生成假發票和帳單以及是否違反禁止詐欺的使用政策時，克里斯汀森表示OpenAI的目標是給予用戶「盡可能多的創作自由」，AI假收據除了用於詐欺，也可能出現在「教導民眾理財知識」等非詐欺情境，以及用來創作原創藝術和產品廣告。

示意圖

11月26日深夜，上海黃浦警方接獲市反詐中心通報，指一名外省女子疑遭冒充軍官的婚戀詐騙，可能即將再次轉出大額金錢。

劉女士與行騙者的對話截圖。網上圖片

「同人不同名」軍官證曝光　劉女終覺醒

警方其後在黃浦區一間酒店外截到該名劉姓女子，但她仍深信手機另一端的「軍官朋友」。

民警向劉女士作出勸阻。上海市公安局供圖

警方採取聊天方式拖住她的注意力，其間反詐中心在後台即時提供婚戀詐騙常見模式供警員應對。關鍵一刻，警員向她展示另一宗案件中繳獲的假軍官證——相片與她認識的「軍官」一模一樣，唯姓名完全不同。這個「同人不同名」的破綻，讓她終於醒覺，承認已按對方指示購買名錶寄出。

警員向她展示了另一宗案件中繳獲的假軍官證，相同樣貌不同名。圖片來源：上海市公安局黃浦分局

四隻名錶分批寄走　包裹在廣州及浦東被全面截回

劉女透露，在過去數日，她按要求花468萬元人民幣（約505萬港元）購買百達翡麗、勞力士等四隻高檔名錶，並分四次以快遞寄往指定地點。警方迅速啟動攔截程序，最終於廣州中轉站及浦東機場貨站成功截回全部包裹。

四隻名錶總值逾500萬港元。上海市公安局黃浦分局供圖

名錶重回當事人手中　案件由當地警方進一步處理

11月29日上午，劉女在上海豫園派出所取回四隻名錶。她其後已返回常住地接受心理疏導。警方未透露涉案人士身分，案件仍在進一步調查中。

女子寄出名錶，聲稱用途是交予所謂「軍官」朋友投資。上海市公安局黃浦分局供圖

女子寄出的四隻名錶由警方成功攔截追回。上海市公安局黃浦分局供圖

警方追回已被寄出的四隻高檔名錶。上海市公安局黃浦分局供圖