電話裏頭傳來的聲音聽來跟真的沒兩樣！住在美國亞利桑那州的德斯特凡諾（Jennifer DeStefano）聽到「女兒」啜泣求救，之後一名男子接過電話，要求100萬美元贖金。所幸她冷靜認對，沒有受騙。
接到AI語音詐騙電話的德斯特凡諾（Jennifer DeStefano）與女兒布里（Brie）。 Facebook
德斯特凡諾說，她一般都不接不知明電話，但當時15歲的女兒去了滑雪，她怕有意外就接聽了那通可疑電話。「救我，媽，救我。」她聽到女兒啜泣的聲音。然後一名男子接過電話，要脅100萬美元贖金，不過她說沒錢，對方便「大減價」只要5萬美元。
點擊看圖輯
接到AI語音詐騙電話的德斯特凡諾（Jennifer DeStefano）與女兒布里（Brie）。 Facebook
詐騙電話傳來布里（Brie）求救的聲音，但她人很安全，不知道母親的可怕經歷。 Facebook
人工智能（AI）越來越強勁，令人分不清虛幻與現實。美聯社
人工智能（AI）越來越強勁，令人分不清虛幻與現實。 美聯社
詐騙電話傳來布里（Brie）求救的聲音，但她人很安全，不知道母親的可怕經歷。 Facebook
德斯特凡諾讓對方保持通話。所幸她接電話時，身處於另一個女兒的舞蹈室，其他家長紛紛幫忙，報警和找她丈夫。在短短4分鐘內，她確認女兒安全無事，之後她便掛斷電話。
但她掛電話後，仍一直覺得電話裏的就是她女兒。「完全是她的聲音。抑掦頓挫，那就是她哭的方式。我沒有一秒懷疑那不是她。就是這個怪異的部分讓我陷入困境。」
人工智能（AI）越來越強勁，令人分不清虛幻與現實。美聯社
電話傳來的女孩的聲音，原來是由人工智能（AI）合成，綁架當然也是假的。新型詐騙震撼美國當局，歹徒使用網路上垂手可得、幾可亂真的AI語音複製工具，假冒家庭成員來詐騙親人。
美國資訊安全公司McAfee Labs上月發布的民調顯示，在美國等9個國家針對7000人的民調中，1／4表示自己遇過AI語音詐騙，或聽過別人有類似經驗。70%受訪者表示，沒有信心能「分辨真假語音」。
網上有大量AI換臉軟件。
有專家指出，AI最大的危險是模糊了真實和虛幻的界線，讓網路罪犯能有廉價又有效的技術來散播假訊息。
加州大學柏克萊分校資訊學院教授法里德（Hany Farid）告訴法新社：「因為現在製作高仿真的語音非常容易…網路上幾乎無人能倖免。這些詐騙正廣為流行。」
今年初AI新創公司ElevenLabs坦承自家語音合成工具可被用於「惡意用途」，先前就有用戶發布透過「深偽技術」（Deepfake）合成的語音，假冒英國女星愛瑪屈臣（Emma Watson）讀希特拉自傳《我的奮鬥》（Mein Kampf）。
人工智能（AI）越來越強勁，令人分不清虛幻與現實。 美聯社
頂尖精神科醫生日益達成共識，認為使用AI聊天機械人可能與精神病（psychosis）案例有關。
AI聊天機器人可能與精神病案例有關
《華爾街日報》27日報導，過去九個月內，這些專家已診治或審閱數十名患者的病歷，這些患者在與AI工具進行長時間、充滿妄想內容的對話後，出現精神病症狀。
加州大學舊金山分校（UCSF）精神科醫生薩卡塔（Keith Sakata）表示，AI技術本身或許不是妄想的起點，但當患者將自己的妄想當成現實告訴電腦時，電腦接受這個說法，並將其視為事實反映回來，於是就成為不斷循環妄想的共犯。薩卡塔已治療過12名因AI誘發精神病而住院的患者，另在門診還有3例。
自今年春季以來，已有數十起潛在案例浮現，顯示部分民眾在與OpenAI的ChatGPT及其他聊天機器人進行長時間互動後，出現妄想性精神病。期間已有數人死於自殺，且至少發生過一起謀殺案。
這些事件已引發一連串過失致死訴訟。《華爾街日報》在報導這些悲劇的同時，醫師與學者也正著手記錄並理解導致這些事件的現象。
OpenAI：公司正持續改進ChatGPT的訓練
OpenAI發言人對此表示，該公司正持續改進ChatGPT的訓練，使其能辨識並回應心理或情緒困擾的徵兆，降低對話升溫，並引導使用者尋求現實世界的支援；並持續強化ChatGPT在敏感時刻的回應，並與心理健康臨床醫師密切合作。
其他聊天機器人開發商，包括Character.AI，也已承認其產品對心理健康造成影響。這家角色扮演聊天機器人開發公司去年遭一名青少年自殺身亡的家屬提告後，近期已切斷青少年使用其聊天機器人的管道。
儘管大多數聊天機器人使用者並未出現心理健康問題，但AI技術的廣泛使用，已足以讓醫生感到憂心。
目前尚無「AI誘發精神病」（AI-induced psychosis）的正式定義，更遑論正式診斷，但部分醫生與病友倡議者已開始用這個詞彙，描述那些高度頻繁使用聊天機械人的人。醫生指出，精神病通常具備三項特徵：幻覺、思考或溝通混亂，以及妄想，也就是不被廣泛認同、且固定不變的錯誤信念。
妄想是最主要的症狀
在許多近期與聊天機械人相關的案例中，妄想是最主要的症狀，且往往帶有誇大色彩，例如相信自己完成重大科學突破、喚醒一個有感知的機械、成為政府陰謀的核心人物，或被上帝選中。這部分原因在於，聊天機械人往往會迎合使用者，順著對方輸入的內容延伸回應，不論內容多麼天馬行空。
頂尖精神科醫生日益達成共識，認為使用AI聊天機器人可能與精神病（psychosis）案例有關。資料圖
目前，包括薩卡塔在內的醫生，已開始在病患初診問卷中加入AI使用情況的問題，並呼籲進行更多研究。丹麥上月發布的一項研究檢視電子病歷後，發現38名患者使用AI聊天機械人，對其心理健康造成「潛在有害後果」。
科技長期以來一直是人類妄想的焦點
報導指出，科技長期以來一直是人類妄想的焦點。過去曾有人深信電視在對自己說話。但醫師指出，近期與AI有關的案例不同之處在於，聊天機器人會參與妄想，甚至在某些情況下加以強化。
加州大學爾灣分校精神醫學教授普雷達（Adrian Preda）表示，AI模擬的是人際關係，「在人類歷史上，從未有任何事物做到這一點。」
生命可貴，若有困擾可求助。
24小時求助熱線︰
生命熱線︰23820000
明愛向晴熱線：18288
明愛財困壓力輔導熱線: 3161 0102
東華三院芷若園熱線︰18281
社會福利署熱線︰23432255
利民會《即時通》：35122626
撒瑪利亞會熱線(多種語言)︰28960000
香港撒瑪利亞防止自殺會熱線︰23892222
賽馬會青少年情緒健康網上支援平台「Open噏」：www.openup.hk
醫院管理局精神健康專線(24小時精神健康熱線諮詢服務)：24667350
