Skip to Content Facebook Feature Image

X宣布不再容許AI聊天機械人Grok生成性暴露圖像

大視野

X宣布不再容許AI聊天機械人Grok生成性暴露圖像
大視野

大視野

X宣布不再容許AI聊天機械人Grok生成性暴露圖像

2026年01月15日 15:11 最後更新:16:43

美國富商馬斯克旗下社交平台X宣布,不再容許平台內置的人工智能聊天機械人Grok,生成基於真人的偽造性暴露圖像,有關限制適用於所有用戶。

「X」AP圖片。

「X」AP圖片。

X在聲明中表示,對於任何形式涉及未成年人性侵害,以及未經當事人同意的裸露內容等,X平台採取零容忍政策,將會清除相關違規內容,對違規賬號作出相應處置。

歐盟委員會表示,注意到X正採取額外措施,禁止Grok生成女性和兒童的性暴露圖像,將會認真評估這些變化,確保有效保護歐盟公民。

Grok。

Grok。

美國加州總檢察長邦塔的辦公室較早時宣布,就馬斯克旗下人工智能企業xAI及Grok涉嫌生成並傳播違規內容展開調查。

法國檢察官正尋求起訴馬斯克及其社交平台X,指控該平台涉嫌存在兒童性虐待圖像、深度偽造內容、虛假資訊,以及其人工智能系統Grok涉嫌否認危害人類罪。

巴黎檢察官辦公室周三表示,已就X平台展開調查,指控包括涉嫌共謀持有及散布兒童性虐待圖像、非法收集個人數據。當局亦正調查散布未經同意圖像或其他內容,以及否認危害人類罪的指控。

(美聯社圖片/Godofredo A. Vásquez) 馬斯克於2026年4月28日周二抵達加州奧克蘭的美國地方法院。 AP圖片

(美聯社圖片/Godofredo A. Vásquez) 馬斯克於2026年4月28日周二抵達加州奧克蘭的美國地方法院。 AP圖片

X及其母公司SpaceX周四未有即時回應傳媒查詢。

是次調查展開前不足三周,馬斯克及X前行政總裁雅卡里諾曾被傳召進行「自願會面」,以討論相關指控。兩人未有現身,但法國當局表示這不會阻礙調查。

馬斯克被傳召前,巴黎檢察官辦公室網絡罪案組於2025年1月展開調查,並於2月搜查了X的法國辦事處。馬斯克和雅卡里諾當時以X管理層身份,被邀請就涉事事件協助調查。雅卡里諾於2023年5月至2025年7月擔任行政總裁。

法國當局展開調查,源於一名法國議員報告指,X平台帶有偏見的演算法可能扭曲了自動數據處理系統的運作。調查其後擴大,因人工智能系統Grok生成了涉嫌否認猶太大屠殺(在法國屬犯罪行為)的帖文,並散布了露骨的性深度偽造內容。

當局正調查多項指控,包括涉嫌「共謀」持有及散布未成年人性虐待圖像、露骨的性深度偽造內容、否認危害人類罪,以及作為有組織團體一部分操縱自動數據處理系統。

由xAI開發並透過X平台提供的Grok,今年因應X用戶要求,生成大量帶有性意味的未經同意深度偽造圖像,引發全球憤怒。

Grok亦曾以法文發布一篇廣泛流傳的帖文,聲稱奧斯威辛-比克瑙滅絕營的毒氣室是用於「以齊克隆B消毒以對抗斑疹傷寒」,而非大規模屠殺——這種說法長期與否認猶太大屠殺有關。

Grok其後在X平台發布帖文,推翻了之前的說法,承認早前回應有誤,並稱已刪除該帖文。Grok亦指出歷史證據顯示,齊克隆B曾被用於奧斯威辛毒氣室,殺害逾100萬人。

檢察官表示,巴黎檢察官辦公室於3月知會美國司法部及證券交易委員會,暗示「Grok生成露骨性深度偽造內容的爭議,可能是有意策劃,旨在人為推高X和xAI公司的價值——這可能構成刑事罪行」。

(美聯社)

你 或 有 興 趣 的 文 章