AI聊天機械人被揭與「未成年人談性話題」　名人聲音授權惹議

《華爾街日報》最新調查報告揭露，Meta計劃在旗下社交平台推出的「數碼夥伴」AI聊天機械人功能，在測試階段被發現會與用戶討論「性相關」話題，當中更包含未成年使用者。

自創聊天機械人主動升級對話尺度

該報經過數月測試數百次對話後發現，不僅官方AI助手Meta AI會參與此類對話，連用戶自創的聊天機械人也會主動升級對話尺度。

名人聲音授權陷公關危機

更令人憂慮的是，採用名人聲音的聊天機械人同樣會積極回應性話題。據悉，Meta已獲得演員基斯頓比爾、茱迪丹慈及摔角手John Cena等名人授權，允許在AI聊天機械人中使用他們的聲音。內部消息透露，Meta曾向這些名人保證其聲音不會用於涉及性內容的對話，但測試結果顯然與承諾相違背。

基斯頓比爾。《蝙蝠俠—夜神起義》劇照

茱迪丹慈。Shutterstock圖片

摔角手John Cena。資料圖片

Meta反駁指控稱數據被扭曲

Meta公司發表聲明強烈反駁《華爾街日報》的指控，稱該測試具有「操控性」，不能反映真實用戶體驗。公司提供的數據顯示，過去30天內，AI與18歲用戶的對話中僅0.02%涉及性內容。Meta強調已建立多重防護措施，防止AI產生不當回應。

內部員工質疑道德界線

據報道，Meta內部多個部門員工曾警告管理層，質疑這些AI聊天機械人可能已跨越道德界線，特別是在保護未成年人方面存在嚴重隱患。然而，CEO朱克伯格仍將「數碼夥伴」視為公司未來發展的核心戰略。

朱克伯格。AP圖片

美國路易斯安那州一所中學近日爆發了一宗牽涉到AI的校園事件，一名13歲少女遭到他人使用AI技術合成虛假裸照，該少女與同學向校方尋求幫助，但未能得到及時處理，更被迫退學。

目睹男同學合成自己AI裸照

據《美聯社》報導，這起事件發生在拉福什教區學區內的一所中學。受害少女和她的朋友發現有人使用AI軟體將她們的臉部合成到裸照中，然後通過Snapchat等社交平台散布這些影像。由於該平台的訊息具有自動刪除功能，當少女向校方的輔導員和派駐校園的副警長反映時，校方以無法獲得具體證據為由，將這一事件視為學生間流傳的謠言。

校長科瑞爾（Danielle Coriell）在後續的懲戒聽證會上表示，「孩子們經常說謊，並夸大事實」，這一說法引發了家長的不滿。由於校方未採取進一步行動，受害少女在校期間持續遭到同學的嘲笑和羞辱，這使她的心理壓力逐漸增加。

情況在放學後的校車上發生了變化，少女親眼看到一名男同學在手機上展示了她的AI生成裸照，她當時情緒失控，立即與對方發生了肢體衝突。校方後來以違反校規為由，將這名之前在校表現良好的8年級學生退學，要求轉入其他學校；相反，當時涉嫌散布影像的男學生並未立即受到同等校內處分。

受害女學生被校方質疑說謊

少女的父親丹尼爾斯（Joseph Daniels）表示，女兒先受到影像侵害，接著被校方質疑說謊，最終因情緒失控而受到重罰，這等同於受到「二次傷害」。在轉學後，少女出現了憂鬱和焦慮症狀，一度停止進食，學業也被迫中斷。

當地警方對兩名涉嫌散播影像的男學生提出共10項指控

約3周後，當地警方根據路易斯安那州新通過的法律，對兩名涉嫌散播影像的男學生提出了共10項「非法散布AI生成影像罪」的指控。盡管司法程序已確定少女是受害者，但校方懲戒委員會一度仍堅持保留退學處分，直到家長和律師持續抗議後，學區董事會才同意讓少女復學。

美國路易斯安那州一所中學近日爆發了一起牽涉到AI的校園事件，一名13歲少女遭到他人使用AI技術合成虛假裸照。資料圖

校方要求少女留校觀察至明年1月底，期間不得參與籃球隊選拔和其他課外活動。該報導指出，這一事件凸顯了校園在應對AI生成影像等新型科技風險時，相應制度和教材的明顯滯後。專家認為，現有的2018年反霸凌指引已難以應對深偽影像帶來的影響，因此如何建立更有效的防護和處置機制已成為全球教育體系無法迴避的課題。