AI聊天機械人被揭與「未成年人談性話題」　名人聲音授權惹議

《華爾街日報》最新調查報告揭露，Meta計劃在旗下社交平台推出的「數碼夥伴」AI聊天機械人功能，在測試階段被發現會與用戶討論「性相關」話題，當中更包含未成年使用者。

自創聊天機械人主動升級對話尺度

該報經過數月測試數百次對話後發現，不僅官方AI助手Meta AI會參與此類對話，連用戶自創的聊天機械人也會主動升級對話尺度。

名人聲音授權陷公關危機

更令人憂慮的是，採用名人聲音的聊天機械人同樣會積極回應性話題。據悉，Meta已獲得演員基斯頓比爾、茱迪丹慈及摔角手John Cena等名人授權，允許在AI聊天機械人中使用他們的聲音。內部消息透露，Meta曾向這些名人保證其聲音不會用於涉及性內容的對話，但測試結果顯然與承諾相違背。

基斯頓比爾。《蝙蝠俠—夜神起義》劇照

茱迪丹慈。Shutterstock圖片

摔角手John Cena。資料圖片

Meta反駁指控稱數據被扭曲

Meta公司發表聲明強烈反駁《華爾街日報》的指控，稱該測試具有「操控性」，不能反映真實用戶體驗。公司提供的數據顯示，過去30天內，AI與18歲用戶的對話中僅0.02%涉及性內容。Meta強調已建立多重防護措施，防止AI產生不當回應。

內部員工質疑道德界線

據報道，Meta內部多個部門員工曾警告管理層，質疑這些AI聊天機械人可能已跨越道德界線，特別是在保護未成年人方面存在嚴重隱患。然而，CEO朱克伯格仍將「數碼夥伴」視為公司未來發展的核心戰略。

朱克伯格。AP圖片

頂尖精神科醫生日益達成共識，認為使用AI聊天機械人可能與精神病（psychosis）案例有關。

AI聊天機器人可能與精神病案例有關

《華爾街日報》27日報導，過去九個月內，這些專家已診治或審閱數十名患者的病歷，這些患者在與AI工具進行長時間、充滿妄想內容的對話後，出現精神病症狀。

加州大學舊金山分校（UCSF）精神科醫生薩卡塔（Keith Sakata）表示，AI技術本身或許不是妄想的起點，但當患者將自己的妄想當成現實告訴電腦時，電腦接受這個說法，並將其視為事實反映回來，於是就成為不斷循環妄想的共犯。薩卡塔已治療過12名因AI誘發精神病而住院的患者，另在門診還有3例。

自今年春季以來，已有數十起潛在案例浮現，顯示部分民眾在與OpenAI的ChatGPT及其他聊天機器人進行長時間互動後，出現妄想性精神病。期間已有數人死於自殺，且至少發生過一起謀殺案。

這些事件已引發一連串過失致死訴訟。《華爾街日報》在報導這些悲劇的同時，醫師與學者也正著手記錄並理解導致這些事件的現象。

OpenAI：公司正持續改進ChatGPT的訓練

OpenAI發言人對此表示，該公司正持續改進ChatGPT的訓練，使其能辨識並回應心理或情緒困擾的徵兆，降低對話升溫，並引導使用者尋求現實世界的支援；並持續強化ChatGPT在敏感時刻的回應，並與心理健康臨床醫師密切合作。

其他聊天機器人開發商，包括Character.AI，也已承認其產品對心理健康造成影響。這家角色扮演聊天機器人開發公司去年遭一名青少年自殺身亡的家屬提告後，近期已切斷青少年使用其聊天機器人的管道。

儘管大多數聊天機器人使用者並未出現心理健康問題，但AI技術的廣泛使用，已足以讓醫生感到憂心。

目前尚無「AI誘發精神病」（AI-induced psychosis）的正式定義，更遑論正式診斷，但部分醫生與病友倡議者已開始用這個詞彙，描述那些高度頻繁使用聊天機械人的人。醫生指出，精神病通常具備三項特徵：幻覺、思考或溝通混亂，以及妄想，也就是不被廣泛認同、且固定不變的錯誤信念。

妄想是最主要的症狀

在許多近期與聊天機械人相關的案例中，妄想是最主要的症狀，且往往帶有誇大色彩，例如相信自己完成重大科學突破、喚醒一個有感知的機械、成為政府陰謀的核心人物，或被上帝選中。這部分原因在於，聊天機械人往往會迎合使用者，順著對方輸入的內容延伸回應，不論內容多麼天馬行空。

頂尖精神科醫生日益達成共識，認為使用AI聊天機器人可能與精神病（psychosis）案例有關。資料圖

目前，包括薩卡塔在內的醫生，已開始在病患初診問卷中加入AI使用情況的問題，並呼籲進行更多研究。丹麥上月發布的一項研究檢視電子病歷後，發現38名患者使用AI聊天機械人，對其心理健康造成「潛在有害後果」。

科技長期以來一直是人類妄想的焦點

報導指出，科技長期以來一直是人類妄想的焦點。過去曾有人深信電視在對自己說話。但醫師指出，近期與AI有關的案例不同之處在於，聊天機器人會參與妄想，甚至在某些情況下加以強化。

加州大學爾灣分校精神醫學教授普雷達（Adrian Preda）表示，AI模擬的是人際關係，「在人類歷史上，從未有任何事物做到這一點。」

生命可貴，若有困擾可求助。

24小時求助熱線︰

生命熱線︰23820000

明愛向晴熱線：18288

明愛財困壓力輔導熱線: 3161 0102

東華三院芷若園熱線︰18281

社會福利署熱線︰23432255

利民會《即時通》：35122626

撒瑪利亞會熱線(多種語言)︰28960000

香港撒瑪利亞防止自殺會熱線︰23892222

賽馬會青少年情緒健康網上支援平台「Open噏」：www.openup.hk

醫院管理局精神健康專線(24小時精神健康熱線諮詢服務)：24667350