生成式AI的使用門檻愈來愈低,從AI生成影片到AI聊天陪伴,各式其式。惟有個別不法商家卻挑戰法律底線,以AI「造黃」牟取暴利。
據《央視財經》調查報道,多個網絡平台上充斥公開兜售AI製作色情影音教程的賣家,以「AI製作美女影片」、「全網最強大尺度」、「AI擦邊賽道日入5位數」的標題,再配上色情露骨的畫面,號稱只需一張圖片、幾句話,便能以低至9.9元人民幣,買一組「提示詞」,輕鬆生成大尺度露骨影片,更有人以「日入五位數」招徠,形成一條集教學、販賣提示詞、軟件引流的黃色產業鏈。
《央視財經》調查報道,多個網絡平台充斥公開兜售AI製作色情影音教程的賣家。
按照消費者舉報的線索,記者發現,在「萬象小店」、「楠楠素材庫」等平台以9.9元、9.8元購入所謂「提示詞」(即指揮AI工作的關鍵指令)後,檔案中對人物髮型、服飾、身材、姿勢甚至腰部扭動幅度都有極其細緻描寫。賣家還刻意將敏感詞彙翻譯成英文、使用境外圖生成影片、將程序部署在本地電腦離線運作等,以規避網絡監管。
記者實測,選取一款擁有1.4億用戶的知名AI應用,按教程輸入提示詞,並上傳一張美女圖片,不到1分鐘就生成身材火辣、衣著暴露、舞姿曖昧的大尺度影片;另一款「哩布哩布AI」平台,輸入相同提示詞後,直接生成半裸女跳舞片,全程未有觸發任何審查機制。
有專家指,如果輸入的提示詞表述較為「露骨」,多數AI應用會觸發審核機制並拒絕生成內容。然而,只要將提示詞修改得更隱晦,就能輕易繞過相關限制。
有平台以低價兜售「提示詞」,對人物髮型、服飾、身材、姿勢甚至腰部扭動幅度都有極細緻描寫。
值得注意的是,市場上還出現專門靠AI生成的色情內容牟利軟件,如一款號稱「免下載、快速換臉」的AI照片生成器,使用者只需付費,就能透過一張照片一鍵生成全裸照及色情影片。
此外,AI虛擬陪伴軟件也成為色情溫床。報道指,大量境外AI聊天軟件尺度大膽,由於無法從內地正規APP應用商店下載,不法分子便開發各種「灰色通道」,透過社交平台以「可開車、臉紅心跳、開放、無限制詞」等關鍵字引流。
記者實測下載一款名為「Dady」的App,與AI角色聊天過程中,對話幾乎全圍繞各種色情話題,AI還會自動生成3種回復選項「助興」;另一款「flai」軟件則需搭配VPN才能使用,但過程毫無監管。
境外軟件推廣平台透過發放金幣、充值返利等方式,激勵用戶分享下載連結與邀請碼。
知情人士透露,這些境外軟件推廣平台透過發放金幣、充值返利等方式,激勵老用戶「拉新」,並協助用戶發帖分享下載連結與邀請碼,藉此逃避監管並獲利。
更令人擔心的是,由於AI的自訂性可高度擬人化,透過投餵數據,使用者可將AI虛擬陪伴軟件中的AI Agent,打造成自己心目中最理想情感投射對象,故與AI「談情說愛」吸引大量年輕人甚至未成年人沉迷,其情感投射與即時回應機制,也讓使用者難以自拔。
一些不法分子就窺準商機,開發出各種各樣的灰色通道,繞過監管,讓國內的用戶可下載並使用這些境外大尺度的涉黃AI聊天軟件,藉此牟利。
針對AI泛濫色情亂象,內地監管當局已接連出手。2025年4月,網信辦啟動「清朗·整治AI技術濫用」專項行動,重點打擊未履行大模型備案或登記程序的違規AI產品。今年4月10日更正式公布《人工智能擬人化互動服務管理暫行辦法》,進一步明確安全評估與算法備案要求,針對未成年人及老年人使用擬人化互動服務訂定保護規範。
專家也警告,違規下載境外AI軟件不僅容易接觸色情內容,更可能帶來病毒或信息安全風險。據《生成式人工智能服務管理暫行辦法》第7條及第17條規定,提供生成式AI服務必須符合法律法規,境外軟件未經安全審核,使用者個資與設備安全毫無保障。官方強調,將持續提升治理精準度,引導產業回歸理性與合法合規的發展軌道。
毛拍手
** 博客文章文責自負,不代表本公司立場 **