當(dāng)生成式AI技術(shù)飛速迭代,一道黑色產(chǎn)業(yè)鏈也在暗處野蠻生長(zhǎng)。從“5元去衣、20元換臉”,到8人團(tuán)伙利用AI“魔改”國(guó)漫角色非法牟利,再到超百萬(wàn)條深偽色情內(nèi)容在加密社交平臺(tái)上瘋狂流轉(zhuǎn)——技術(shù)濫用的代價(jià),正以極其沉重的方式落在普通人的肩上。這不僅是一場(chǎng)技術(shù)倫理的失守,更是一場(chǎng)關(guān)乎每一個(gè)人的數(shù)字安全危機(jī)。
產(chǎn)業(yè)鏈浮出水面:從“技術(shù)宅”到8人落網(wǎng)
2026年1月,一名資深國(guó)漫愛(ài)好者張先生在網(wǎng)絡(luò)瀏覽時(shí),被神秘廣告吸引進(jìn)入一個(gè)“內(nèi)部眾籌群”。然而,這里并非同好交流之地,而是一個(gè)充斥著淫穢內(nèi)容的“黑市”。群內(nèi)人員打著“私人定制”和“眾籌更新”的旗號(hào),將熱門(mén)國(guó)漫角色的面部特征與極其露骨的姿勢(shì)拼接,生成大量不堪入目的圖片與視頻。
![]()
接警后,浙江金華婺城警方成立專(zhuān)案組展開(kāi)偵查,發(fā)現(xiàn)這些賬號(hào)背后隱藏著一條完整的黑色產(chǎn)業(yè)鏈:犯罪嫌疑人利用特定AI技術(shù)手段,將公眾熟知的國(guó)漫角色“魔改”成淫穢形象,并在網(wǎng)絡(luò)上瘋狂傳播。循著虛擬網(wǎng)絡(luò)留下的蛛絲馬跡,專(zhuān)案組鎖定犯罪嫌疑人李某,在其電腦和硬盤(pán)中查獲大量專(zhuān)門(mén)用于生成淫穢內(nèi)容的AI模型文件、訓(xùn)練數(shù)據(jù)及成品。
據(jù)李某供述,他原本對(duì)AI技術(shù)抱有濃厚興趣,后來(lái)發(fā)現(xiàn)少數(shù)網(wǎng)民對(duì)國(guó)漫角色的“另類(lèi)”內(nèi)容有畸形需求。為牟取暴利,他以“角色投票、私人定制、眾籌更新、終身會(huì)員”等噱頭,按客戶(hù)指定的國(guó)漫角色及要求,利用AI技術(shù)生成淫穢內(nèi)容。警方順藤摸瓜,將該團(tuán)伙其余7名犯罪嫌疑人一網(wǎng)打盡。該團(tuán)伙已非法獲利20余萬(wàn)元。目前,8人均因涉嫌傳播淫穢物品牟利被依法采取刑事強(qiáng)制措施。
值得注意的是,這并非個(gè)案。從“技術(shù)宅”李某的“練手作品”辯解,到8人團(tuán)伙的精細(xì)化運(yùn)營(yíng),AI造黃已從個(gè)別獵奇行為演變?yōu)榫哂忻鞔_分工和商業(yè)模式的灰色產(chǎn)業(yè)。
黑灰產(chǎn)的運(yùn)作模式:明碼標(biāo)價(jià)的“技術(shù)生意”
記者調(diào)查發(fā)現(xiàn),當(dāng)前“AI換臉”和“AI脫衣”服務(wù)已形成明碼標(biāo)價(jià)的市場(chǎng)。黑灰產(chǎn)從業(yè)者口中,5元可以“去衣”,20元實(shí)現(xiàn)“視頻換臉”。這條產(chǎn)業(yè)鏈上,從業(yè)者通過(guò)吸睛照片引流,再以“會(huì)員群”服務(wù)牟利。此外,黑灰產(chǎn)已經(jīng)盯上女網(wǎng)紅群體,大量“AI脫衣”照片群組在灰色平臺(tái)上公開(kāi)售賣(mài)。
![]()
定制服務(wù)的價(jià)格更是令人咋舌。據(jù)記者暗訪,一分鐘左右的“AI換臉”視頻,收費(fèi)普遍在300元到400元之間,貴的可以達(dá)到800元。這些商家在電商平臺(tái)商品頁(yè)面中并不寫(xiě)明提供此類(lèi)服務(wù),但在客戶(hù)提出要求后,仍會(huì)提供超范圍的、可能產(chǎn)生法律風(fēng)險(xiǎn)的服務(wù),并引導(dǎo)用戶(hù)脫離平臺(tái)改用其他聊天軟件對(duì)接。
從商業(yè)模式來(lái)看,這一黑灰產(chǎn)已形成清晰的變現(xiàn)路徑:
一是“工具售賣(mài)”模式。在多個(gè)電商平臺(tái),不少商家在線出售AI繪圖軟件,號(hào)稱(chēng)可提供“去衣”功能,售價(jià)僅十幾元。一旦用戶(hù)購(gòu)買(mǎi),即可自行生成大量非法內(nèi)容。
二是“內(nèi)容售賣(mài)”模式。賣(mài)家擁有大量明星、網(wǎng)紅的換臉色情素材庫(kù),超百部視頻售價(jià)僅幾十元。有賣(mài)家聲稱(chēng)擁有80多位明星、一萬(wàn)五千余張圖片,全部購(gòu)買(mǎi)僅售60元,還贈(zèng)送23部視頻。此外,還按照粉絲量級(jí)定價(jià),從50萬(wàn)粉絲以下到1000萬(wàn)粉絲以上的網(wǎng)紅,換臉色情視頻售價(jià)在30元到50元不等。
三是“會(huì)員社群”模式。從業(yè)者通過(guò)免費(fèi)樣本吸引用戶(hù),再引導(dǎo)其進(jìn)入付費(fèi)社群,提供“私人定制”和“眾籌更新”服務(wù),形成持續(xù)性收益流。
平臺(tái)漏洞:脆弱的防線與失控的技術(shù)
這波AI造黃黑產(chǎn)之所以能迅速蔓延,一個(gè)重要原因在于主流AI應(yīng)用平臺(tái)的防線形同虛設(shè)。
央視《財(cái)經(jīng)調(diào)查》記者在測(cè)評(píng)中發(fā)現(xiàn),如果輸入的提示詞表述較為“露骨”,多數(shù)AI應(yīng)用會(huì)觸發(fā)審核機(jī)制并拒絕生成內(nèi)容。然而,這條防線極其脆弱——只要將提示詞修改得更加隱晦,便有可能繞過(guò)限制。在一款名為“哩布哩布AI”的應(yīng)用中,記者輸入在網(wǎng)上購(gòu)買(mǎi)的提示詞后,僅僅幾分鐘,該平臺(tái)就生成了一個(gè)半裸身體的女性跳舞視頻,全程未觸發(fā)任何限制機(jī)制。同樣的問(wèn)題也出現(xiàn)在市場(chǎng)上其他常見(jiàn)AI應(yīng)用平臺(tái)上。
![]()
更令人擔(dān)憂的是,網(wǎng)絡(luò)上還存在一類(lèi)AI照片生成器,號(hào)稱(chēng)“免下載,快速生成,圖片、視頻換臉”。購(gòu)買(mǎi)者可根據(jù)充值金額的不同,通過(guò)AI技術(shù)一鍵快速替換原片,生成虛構(gòu)的色情照片。只要購(gòu)買(mǎi)者愿意付費(fèi),該軟件就可以通過(guò)一張圖片,生成全裸照片和色情視頻。
另一項(xiàng)研究發(fā)現(xiàn),專(zhuān)門(mén)生成和傳播合成非自愿親密圖像(NCII)的網(wǎng)站,截至2025年9月已獲得超過(guò)2400萬(wàn)獨(dú)立訪問(wèn)量。這些服務(wù)在Reddit和X等平臺(tái)上的引流鏈接數(shù)量,自2023年初以來(lái)激增了超過(guò)2000%。
專(zhuān)家指出,開(kāi)源AI圖像擴(kuò)散模型能力的不斷提升和獲取門(mén)檻的持續(xù)降低,使得大量服務(wù)提供商能夠以極低成本大規(guī)模生成高度逼真的合成色情內(nèi)容。
加密社交平臺(tái)成“法外之地”
在這場(chǎng)全球性的深偽色情狂潮中,加密通訊應(yīng)用Telegram扮演了特殊角色。研究表明,一場(chǎng)全球性的深偽濫用浪潮正在Telegram上蔓延,數(shù)百萬(wàn)用戶(hù)在該平臺(tái)上生成和分享未經(jīng)同意的女性色情圖像。研究人員已識(shí)別出至少150個(gè)活躍頻道,提供AI生成的明星、網(wǎng)紅和普通女性的裸照,往往以付費(fèi)方式交易。
![]()
盡管Telegram表示深偽色情內(nèi)容在其平臺(tái)被明令禁止,并稱(chēng)2025年刪除了近100萬(wàn)條違規(guī)帖子,但舊頻道被關(guān)閉后新頻道立即涌現(xiàn),用戶(hù)在其中交流如何繞過(guò)安全控制的技術(shù)“攻略”。
早在2020年,調(diào)查就發(fā)現(xiàn)Telegram平臺(tái)上已存在能夠“脫衣”的AI驅(qū)動(dòng)聊天機(jī)器人,用戶(hù)提交女性照片即可匿名生成裸照。這種“裸體化應(yīng)用”的泛濫——在主流應(yīng)用商店下載量已超過(guò)7億次——為整個(gè)黑色生態(tài)系統(tǒng)注入了持續(xù)動(dòng)力。
受害者:被技術(shù)“圍獵”的普通人
AI造黃產(chǎn)業(yè)鏈的最大代價(jià),最終落在一個(gè)個(gè)具體的人身上。
2025年,青島保時(shí)捷女銷(xiāo)售員牟女士遭遇AI偽造視頻侵害。不法分子利用AI技術(shù)合成虛假不雅視頻、進(jìn)行誹謗侮辱,并泄露牟女士的電話和微信號(hào),導(dǎo)致其遭遇大量騷擾。她與臺(tái)球運(yùn)動(dòng)員王思諾等均深陷惡意AI造“黃謠”風(fēng)波。
江蘇高院公布的典型案例中,男子王某甲于2024年4月至2025年1月間,利用AI軟件的深度合成技術(shù),將多人的人臉信息與色情圖片進(jìn)行拼接,偽造大量不雅圖片,編造被害人“涉性”話題,多次在境外網(wǎng)站公開(kāi)發(fā)布。盡管他人聲稱(chēng)要將內(nèi)容轉(zhuǎn)發(fā)至被害人工作群,王某甲仍未澄清或阻止,任由被害人名譽(yù)遭受?chē)?yán)重?fù)p害。最終,王某甲因犯誹謗罪被判處有期徒刑一年三個(gè)月。
![]()
擁有670余萬(wàn)粉絲的網(wǎng)紅女主播陳嵐發(fā)布視頻稱(chēng),她遭遇了惡意PS和AI換臉,照片被制作成色情內(nèi)容并在網(wǎng)上公開(kāi)出售。另一位擁有400多萬(wàn)粉絲的女主播杜悅也遇到類(lèi)似情況,直到朋友轉(zhuǎn)來(lái)一段色情視頻,她才意識(shí)到自己成了“換臉”受害者。
據(jù)ISD研究機(jī)構(gòu)分析,被深偽技術(shù)攻擊的女性面臨孤立、勒索、家庭排斥和失去就業(yè)機(jī)會(huì)等多重困境。受害者遭受的傷害往往是永久性的——深偽圖像在平臺(tái)上無(wú)限期流轉(zhuǎn)且?guī)缀醪豢赡軓氐讋h除,全面侵蝕了她們的安全感、尊嚴(yán)和長(zhǎng)期發(fā)展機(jī)會(huì)。
未成年人:最脆弱的群體
AI造黃的黑手同樣伸向了最不應(yīng)被觸碰的群體——未成年人。
互聯(lián)網(wǎng)觀察基金會(huì)(IWF)在暗網(wǎng)論壇上發(fā)現(xiàn)了超過(guò)20,254張涉及虐待兒童的AI生成圖片。該機(jī)構(gòu)直言,AI生成的兒童色情內(nèi)容可能會(huì)對(duì)互聯(lián)網(wǎng)造成“淹沒(méi)式”沖擊。
在美國(guó)賓夕法尼亞州,35歲的亞當(dāng)·埃爾德曼成為該州首個(gè)根據(jù)禁止AI生成未成年人性描繪法律被定罪并判刑的被告,刑期28個(gè)月至10年。調(diào)查人員發(fā)現(xiàn),埃爾德曼使用“無(wú)辜的度假照片”通過(guò)AI生成未成年人的露骨圖像。在堪薩斯州,47歲的杰里米·韋伯因利用AI制作兒童性虐待材料,被判處25年監(jiān)禁。
愛(ài)荷華州三名青少年因利用AI制作并傳播未成年人淫穢圖像被捕。調(diào)查發(fā)現(xiàn),這三名青少年使用AI生成了多名未成年人“未著裝狀態(tài)”的圖像并在社交媒體上分享。此外,田納西州一群青少年對(duì)馬斯克的xAI公司提起訴訟,指控其AI工具被用于將她們穿著衣服的照片編輯成裸照,生成性化圖像。
值得注意的是,加害者也日趨低齡化。韓國(guó)一名青少年因利用深度偽造視頻抹黑多名教師——包括兩名高中女教師——被判處三年有期徒刑。加拿大卡爾加里一名高中生因制作女同學(xué)的性露骨深偽圖像而面臨刑事指控。
司法實(shí)踐:AI涉黃首案確立裁判標(biāo)準(zhǔn)
2026年1月,被稱(chēng)作“AI服務(wù)涉黃第一案”的AlienChat APP開(kāi)發(fā)者涉刑案二審開(kāi)庭。該APP兩名開(kāi)發(fā)者因通過(guò)編寫(xiě)系統(tǒng)提示詞突破大語(yǔ)言模型道德限制,讓APP大量輸出淫穢聊天內(nèi)容,一審以制作淫穢物品牟利罪分別獲刑四年、一年六個(gè)月。
![]()
該案的標(biāo)志性意義在于,法院采用了“實(shí)質(zhì)控制力”原則作為關(guān)鍵認(rèn)定標(biāo)準(zhǔn)。盡管淫穢內(nèi)容以“人機(jī)互動(dòng)”形式呈現(xiàn),但開(kāi)發(fā)者通過(guò)技術(shù)手段修改提示詞、突破模型限制,實(shí)際上主導(dǎo)并決定了AI的輸出內(nèi)容與方向。法院認(rèn)定,開(kāi)發(fā)者已超越單純的技術(shù)提供者角色,成為違法內(nèi)容生成機(jī)制的整體設(shè)計(jì)者,即淫穢內(nèi)容的“源頭生產(chǎn)者”。
這標(biāo)志著司法系統(tǒng)首次在AI服務(wù)提供者與淫穢物品“制作者”之間建立了清晰的認(rèn)定邏輯,為后續(xù)類(lèi)似案件的審理提供了重要參照。
專(zhuān)項(xiàng)行動(dòng):相關(guān)部門(mén)重拳出擊
2025年4月,國(guó)家相關(guān)部門(mén)在全國(guó)范圍內(nèi)部署開(kāi)展為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)。專(zhuān)項(xiàng)行動(dòng)分兩個(gè)階段開(kāi)展:第一階段強(qiáng)化AI技術(shù)源頭治理,清理整治違規(guī)AI應(yīng)用程序,加強(qiáng)AI生成合成技術(shù)和內(nèi)容標(biāo)識(shí)管理,推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力;第二階段聚焦利用AI制作發(fā)布色情低俗內(nèi)容、假冒他人實(shí)施侵權(quán)違法行為等突出問(wèn)題,集中清理違法不良信息,處置處罰違規(guī)賬號(hào)、MCN機(jī)構(gòu)和網(wǎng)站平臺(tái)。
此外,《生成式人工智能服務(wù)管理暫行辦法》已明確,提供和使用生成式人工智能服務(wù),應(yīng)當(dāng)遵守法律、行政法規(guī),尊重社會(huì)公德和倫理道德,不得生成暴力、淫穢色情內(nèi)容。
全球立法:多國(guó)加速填補(bǔ)法律空白
2026年3月,德國(guó)加速立法將AI生成色情入刑。根據(jù)擬議中的新法,利用人工智能生成他人色情音視頻者,將面臨最高兩年監(jiān)禁的刑事處罰;公共場(chǎng)合偷拍他人隱私照片的行為也將適用同一量刑標(biāo)準(zhǔn)。新法旨在填補(bǔ)法律空白,不僅將制作、分享、傳播色情深度偽造內(nèi)容全面入刑,還將賦予法院封禁相關(guān)違規(guī)賬號(hào)的權(quán)力。
然而,全球法律保護(hù)仍然薄弱。目前全球僅有不到40%的國(guó)家制定了針對(duì)網(wǎng)絡(luò)騷擾或跟蹤的法律。維權(quán)人士警告,低收入地區(qū)的女性由于數(shù)字素養(yǎng)不足、資源有限和監(jiān)管框架薄弱,面臨的風(fēng)險(xiǎn)最為嚴(yán)峻。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.