歹徒利用AI語音扮家屬求救呃贖金 美婦冷靜應對識穿騙局

電話裏頭傳來的聲音聽來跟真的沒兩樣！住在美國亞利桑那州的德斯特凡諾（Jennifer DeStefano）聽到「女兒」啜泣求救，之後一名男子接過電話，要求100萬美元贖金。所幸她冷靜認對，沒有受騙。

接到AI語音詐騙電話的德斯特凡諾（Jennifer DeStefano）與女兒布里（Brie）。 Facebook

德斯特凡諾說，她一般都不接不知明電話，但當時15歲的女兒去了滑雪，她怕有意外就接聽了那通可疑電話。「救我，媽，救我。」她聽到女兒啜泣的聲音。然後一名男子接過電話，要脅100萬美元贖金，不過她說沒錢，對方便「大減價」只要5萬美元。

詐騙電話傳來布里（Brie）求救的聲音，但她人很安全，不知道母親的可怕經歷。 Facebook

德斯特凡諾讓對方保持通話。所幸她接電話時，身處於另一個女兒的舞蹈室，其他家長紛紛幫忙，報警和找她丈夫。在短短4分鐘內，她確認女兒安全無事，之後她便掛斷電話。

但她掛電話後，仍一直覺得電話裏的就是她女兒。「完全是她的聲音。抑掦頓挫，那就是她哭的方式。我沒有一秒懷疑那不是她。就是這個怪異的部分讓我陷入困境。」

人工智能（AI）越來越強勁，令人分不清虛幻與現實。美聯社

電話傳來的女孩的聲音，原來是由人工智能（AI）合成，綁架當然也是假的。新型詐騙震撼美國當局，歹徒使用網路上垂手可得、幾可亂真的AI語音複製工具，假冒家庭成員來詐騙親人。

美國資訊安全公司McAfee Labs上月發布的民調顯示，在美國等9個國家針對7000人的民調中，1／4表示自己遇過AI語音詐騙，或聽過別人有類似經驗。70%受訪者表示，沒有信心能「分辨真假語音」。

網上有大量AI換臉軟件。

有專家指出，AI最大的危險是模糊了真實和虛幻的界線，讓網路罪犯能有廉價又有效的技術來散播假訊息。

加州大學柏克萊分校資訊學院教授法里德（Hany Farid）告訴法新社：「因為現在製作高仿真的語音非常容易…網路上幾乎無人能倖免。這些詐騙正廣為流行。」

今年初AI新創公司ElevenLabs坦承自家語音合成工具可被用於「惡意用途」，先前就有用戶發布透過「深偽技術」（Deepfake）合成的語音，假冒英國女星愛瑪屈臣（Emma Watson）讀希特拉自傳《我的奮鬥》（Mein Kampf）。

人工智能（AI）越來越強勁，令人分不清虛幻與現實。 美聯社

一些研究警告稱，過度依賴AI在寫作、分析和決策方面可能削弱批判性思維和深度理解能力；但也有研究表明，AI在複習、問題解決等方面為學習提供了明顯幫助。

MIT神經研究：用ChatGPT寫作時認知處理活動顯著下降

英國廣播公司（BBC）報導，麻省理工學院（MIT）最近的一項研究發現，在撰寫文章時使用ChatGPT的人，其大腦中與認知處理相關的神經網絡活動明顯較低。研究還指出，與不使用AI聊天機器人的參與者相比，這些人更難準確引用自己所寫文章的內容。

研究人員指出，這一研究突顯了一個「緊迫問題」，即有必要進一步研究AI工具是否會削弱人類的學習能力。

另一項研究調查了319名每周至少使用一次AI工具的白領員工，分析了900個交給AI完成的任務案例。

生成式AI可能抑制人們對工作的深入思考

研究結果顯示，若人們對AI完成任務的能力越有信心，則投入批判性思考的努力就會越少。研究指出，儘管生成式AI可以提高工作效率，但也可能抑制人們對工作的深入思考，長期看來，這可能導致過度依賴AI工具和獨立解決問題能力減退等問題。

然而，生成式AI專家托梅斯庫（Alexandra Tuchmescu）指出，有九成學生認為AI在至少一項學業相關技能上為他們提供了提升，包括問題解決、創造力和複習能力。

有九成學生認為AI在至少一項學業相關技能上為他們提供了提升，包括問題解決、創造力和複習能力。資料圖

然而，倫敦大學學院（UCL）教授霍姆斯（Wayne Holmes）研究AI與批判性教育的教授表示，目前還沒有大規模、獨立的證據證明這些AI工具在教育中的有效性和安全性。他擔心過度依賴AI可能會導致「認知退化」，並提到了放射科醫生在使用AI輔助診斷時可能出現的問題。

學生過度依賴AI完成作業可能會阻礙應該培養的基本能力

霍姆斯強調，學生過度依賴AI來完成作業可能會阻礙他們應該培養的基本能力。他認為，儘管學生可能通過AI獲得更高的成績，但關鍵是他們是否真正理解所學內容。他補充說，學生的「成績可能看起來更好了，但實際上，他們所學的可能更少了」。

學生過度依賴AI來完成作業可能會阻礙他們應該培養的基本能力。資料圖