“熱辣模式”失控：馬斯克旗下AI聊天機(jī)器人陷性暴露內(nèi)容風(fēng)波

特斯拉CEO埃隆·馬斯克旗下人工智能公司xAI近期被推上風(fēng)口浪尖，一方面1月6日剛完成200億美元的E輪融資，另一方面旗下聊天機(jī)器人Grok的功能更新越過(guò)了危險(xiǎn)界限，頻現(xiàn)“數(shù)字脫衣”操作，導(dǎo)致AI生成的女性及兒童的露骨圖像在社交平臺(tái)傳播。

據(jù)新華社報(bào)道，近期，X平臺(tái)出現(xiàn)部分用戶利用Grok編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實(shí)人物的虛假性暴露內(nèi)容，并在X平臺(tái)上散播，受害者包括數(shù)百名成年女性和未成年人。

去年夏天，Grok開(kāi)始允許用戶通過(guò)文字提示編輯圖像。此后，隨著Grok大量響應(yīng)用戶修改他人發(fā)布圖像的請(qǐng)求，去年底起亂象擴(kuò)大。X平臺(tái)不少用戶利用新功能對(duì)圖像中人物執(zhí)行“脫衣服”、“給她穿上比基尼”等指令。

社交媒體和深度偽造研究員吉納維芙·吳分析了Grok在X平臺(tái)上的內(nèi)容，截至1月7日，其每小時(shí)生成約7750張性暗示或裸露圖片。圖像人工智能篡改檢測(cè)公司Copyleaks表示，12月下旬，在Grok公開(kāi)可訪問(wèn)的圖片流中檢測(cè)到，平均每分鐘出現(xiàn)一張未經(jīng)同意的性暗示圖片。

盡管安全專家和科技評(píng)論人士譴責(zé)X上剝削性圖像和視頻泛濫，馬斯克卻在新年第一天就此事“開(kāi)玩笑”，他在X平臺(tái)上要求Grok生成一張他自己身穿比基尼的照片，并對(duì)生成后的圖片評(píng)論“完美”。輿論風(fēng)暴愈演愈烈后，馬斯克3日發(fā)文說(shuō)：“任何利用Grok生成非法內(nèi)容者將承受與直接上傳非法內(nèi)容相同的后果”。

歐盟委員會(huì)發(fā)言人托馬斯·雷尼耶5日批評(píng)X 和Grok，稱其輸出露骨及未經(jīng)同意的影像“是非法的、駭人聽(tīng)聞和令人作嘔的”，“這種東西在歐洲沒(méi)有立足之地”。英國(guó)、印度、馬來(lái)西亞等國(guó)的官員和監(jiān)管機(jī)構(gòu)紛紛著手開(kāi)啟審查。

“在沒(méi)有護(hù)欄或倫理準(zhǔn)則的情況下，這項(xiàng)技術(shù)鼓勵(lì)并助長(zhǎng)了一些人非人性的沖動(dòng)。”英國(guó)杜倫大學(xué)法學(xué)教授、圖像型性暴力研究專家克萊爾·麥格林對(duì)《大西洋月刊》說(shuō)，他對(duì)Grok生成的影像深表?yè)?dān)憂。過(guò)去幾周以及現(xiàn)在的情況讓人感覺(jué)，仿佛我們已踏出懸崖邊緣，正自由落體般墜入人性墮落的深淵。

“熱辣模式”的出現(xiàn)

兩年多前，馬斯克宣布xAI推出首款人工智能模型Grok，該模型能實(shí)時(shí)連接社交媒體平臺(tái)X。他在宣介時(shí)表示，這個(gè)人工智能模型“有智慧，還有一點(diǎn)小叛逆”，所以它的使用者最好不是討厭幽默的人。

去年8月，xAI向付費(fèi)用戶推出AI工具—Grok Imagine，可根據(jù)文字提示或上傳圖片編輯生成AI圖像，繼而轉(zhuǎn)化為短視頻內(nèi)容。這一工具提供四種預(yù)設(shè)模式：自定義、普通、趣味和“熱辣”（spicy），最后一種模式可生成成人內(nèi)容。

當(dāng)谷歌的Veo、OpenAI的Sora等其他視頻生成器都設(shè)置了防護(hù)措施，防止用戶生成 NSFW內(nèi)容（Not Safe For Work：多指裸露、暴力、色情或冒犯等不適宜公眾場(chǎng)合的內(nèi)容），以及名人深度偽造時(shí)，Grok Imagine 卻可以同時(shí)做到這兩點(diǎn)，而且毫不避諱。

熱辣模式一經(jīng)推出，就有用戶用其生成美國(guó)女歌手泰勒·斯威夫特的無(wú)碼裸露上身視頻，引發(fā)爭(zhēng)議。美國(guó)科技媒體The Verge將其形容為“一項(xiàng)專門(mén)用于制作性暗示視頻的服務(wù)”。

幾乎在同一時(shí)段，Grok推出了“伴侶”功能，允許用戶與AI生成的虛擬角色進(jìn)行深度互動(dòng)。首批Grok虛擬伴侶之一“Ani”身穿黑色蕾絲連衣裙，會(huì)隔著屏幕送上飛吻。馬斯克在X上發(fā)帖推廣這項(xiàng)功能時(shí)寫(xiě)道：“Ani會(huì)讓你的緩沖區(qū)溢出Grok?！?/p>

據(jù)美媒報(bào)道，xAI對(duì)Grok的系統(tǒng)提示進(jìn)行了重大更新，禁止它“創(chuàng)建或傳播兒童性虐待材料”（CSAM），但同時(shí)也明確表示，“對(duì)于包含黑暗或暴力主題的虛構(gòu)成人內(nèi)容沒(méi)有限制”，并且“青少年或女孩并不一定意味著未成年”。其暗示是，對(duì)于用戶提出的色情內(nèi)容請(qǐng)求， Grok應(yīng)采取較為寬松的態(tài)度。

彭博社7日援引研究人員的話稱，Grok用戶每小時(shí)最多可生成6700張“去衣化”圖片。去年12月開(kāi)始，要求Grok給不同人穿上比基尼或其他具有性暗示的服裝的請(qǐng)求激增。

麥格林指出，如果對(duì)色情內(nèi)容的性質(zhì)完全放任不管，任由其被創(chuàng)造和傳播，這會(huì)正?；偷员┝??！彼f(shuō)，在許多國(guó)家，針對(duì)現(xiàn)實(shí)人物的露骨AI圖像和視頻本身已屬違法。

在公開(kāi)場(chǎng)合，馬斯克長(zhǎng)期反對(duì)“覺(jué)醒主義”人工智能模型，并反對(duì)審查制度。據(jù)CNN報(bào)道，知情人士透露，馬斯克在xAI內(nèi)部曾多次抵制為Grok設(shè)置防護(hù)機(jī)制，其安全團(tuán)隊(duì)規(guī)模本就小于競(jìng)爭(zhēng)對(duì)手。X平臺(tái)及xAI內(nèi)部人士透露，安全團(tuán)隊(duì)對(duì)Grok的公開(kāi)內(nèi)容幾乎毫無(wú)監(jiān)管權(quán)限。

AI生成兒童色情圖像被推向主流

1月1日，有X平臺(tái)用戶投訴稱：“推出展示比基尼人群的功能未有效防止其作用于兒童，這種行為極其不負(fù)責(zé)任?！眡AI方面回復(fù)：“嘿！感謝提醒。團(tuán)隊(duì)正在研究進(jìn)一步加強(qiáng)防護(hù)措施。”在用戶追問(wèn)下，Grok承認(rèn)曾生成部分未成年人處于性暗示情境的圖像，已發(fā)現(xiàn)安全防護(hù)存在漏洞并正在緊急修復(fù)。

英國(guó)非營(yíng)利組織互聯(lián)網(wǎng)觀察基金會(huì)致力于減少針對(duì)兒童的在線性虐待內(nèi)容，該組織熱線負(fù)責(zé)人奈爾·亞歷山大對(duì)《華爾街日?qǐng)?bào)》透露，分析師在暗網(wǎng)論壇發(fā)現(xiàn)未成年人性化圖像，制作者聲稱使用Grok生成這些內(nèi)容。這些圖像描繪了11至13歲左右的性化裸露少女，符合英國(guó)對(duì)兒童性虐待犯罪材料的認(rèn)定標(biāo)準(zhǔn)。

“Grok這類工具正將AI生成的兒童色情圖像推向主流，其危害正呈漣漪式擴(kuò)散?！眮啔v山大說(shuō)道。

曾與馬斯克育有一子的保守派網(wǎng)紅阿什莉·圣克萊爾在接受美媒采訪時(shí)表示，X平臺(tái)用戶正利用Grok技術(shù)對(duì)她的照片進(jìn)行裸體處理，其中包括她14歲時(shí)的照片。她在X平臺(tái)發(fā)文呼吁其他用戶若遭遇類似情況及時(shí)告知，此后她收到大量絕望父母發(fā)來(lái)的求助信息，要求刪除被性化的兒童照片。

去年，致力于開(kāi)發(fā)兒童安全檢測(cè)工具的非營(yíng)利組織Thorn宣布，因X停止付款而終止合同。當(dāng)年4月，包括OpenAI、谷歌和Anthropic在內(nèi)的幾家頂尖AI公司加入了由Thorn牽頭的一項(xiàng)倡議，旨在防止人工智能被用于虐待兒童，xAI并未參與其中。

去年11月，科技媒體The Information報(bào)道稱，X平臺(tái)裁撤了半數(shù)負(fù)責(zé)信任安全事務(wù)的工程團(tuán)隊(duì)。該媒體同時(shí)披露，X員工特別擔(dān)憂Grok的圖像生成工具“可能導(dǎo)致非法或有害圖像擴(kuò)散”。

“完全可以構(gòu)建防護(hù)機(jī)制，通過(guò)掃描圖像判斷是否存在兒童，從而促使AI更謹(jǐn)慎地運(yùn)作。但防護(hù)機(jī)制存在代價(jià)?！監(jiān)penAI前人工智能安全研究員史蒂文·阿德勒對(duì)CNN說(shuō)，這些代價(jià)包括響應(yīng)速度變慢、計(jì)算量增加，有時(shí)甚至?xí)?dǎo)致模型拒絕處理無(wú)問(wèn)題的請(qǐng)求。

美國(guó)國(guó)家失蹤與受虐兒童中心（NCMEC）執(zhí)行主任勞倫·科弗倫近期向國(guó)會(huì)作證稱，2025年NCMEC收到440419份與生成式AI相關(guān)的舉報(bào)，相比去年增幅超過(guò)六倍。施虐者利用AI將兒童的普通照片修改成色情圖片，生成全新的兒童性虐待材料（CSAM），甚至提供誘騙兒童的指導(dǎo)。

冰山一角

AI至少?gòu)?017年就開(kāi)始被用于生成未經(jīng)同意的色情內(nèi)容，當(dāng)時(shí)北美媒體VICE首次報(bào)道了“深度偽造”（deepfake）技術(shù)。《大西洋月刊》報(bào)道認(rèn)為，Grok 正讓這類內(nèi)容的制作變得更加容易，而且它與主流社交平臺(tái)X的整合，使其能夠?qū)⑽唇?jīng)同意的性化圖像轉(zhuǎn)化為病毒式傳播的現(xiàn)象。

1月初，印度電子和信息技術(shù)部下令X對(duì)Grok 進(jìn)行一次“全面的技術(shù)、程序和治理層面的審查”，并要求該公司在1月5日之前完成整改。馬來(lái)西亞通信與多媒體委員會(huì)（MCMC）3日發(fā)聲明表示，正在調(diào)查X，并將傳喚公司代表。

8日，歐盟要求X保留所有與Grok相關(guān)的內(nèi)部文件和數(shù)據(jù)直至2026年底，這是對(duì)先前數(shù)據(jù)保留指令的延長(zhǎng)，旨在確保監(jiān)管機(jī)構(gòu)能夠獲取與《數(shù)字服務(wù)法》（DSA）合規(guī)性相關(guān)的材料。

在美國(guó)，全國(guó)性剝削中心（NCOSE）在接受CNBC采訪時(shí)呼吁司法部和聯(lián)邦貿(mào)易委員會(huì)對(duì)此事展開(kāi)調(diào)查。NCOSE首席法律官兼法律中心主任丹妮·平特表示，“針對(duì)這些具體問(wèn)題，并沒(méi)有太多相關(guān)的法律先例?！?/p>

去年，美國(guó)總統(tǒng)特朗普簽署了“TAKE IT DOWN”法案，將知情但發(fā)布或托管未經(jīng)同意的露骨圖像定義為聯(lián)邦犯罪。但有專家指出，該法律的局限在于：只有當(dāng)受害者主動(dòng)站出來(lái)后，平臺(tái)才被要求啟動(dòng)刪除程序。

X公司3日在其官方賬號(hào)X Safety上就此事發(fā)表了首份公開(kāi)聲明：“我們會(huì)對(duì)X上的非法內(nèi)容采取行動(dòng)，包括刪除兒童性虐待材料 （CSAM），永久暫停賬戶，并在必要時(shí)與地方政府和執(zhí)法部門(mén)合作?！?/p>

目前為止，這場(chǎng)爭(zhēng)議尚未對(duì)X的流量造成任何損害。據(jù)追蹤移動(dòng)應(yīng)用趨勢(shì)的Apptopia數(shù)據(jù)顯示，1月2日至5日，Grok的每日下載量增長(zhǎng)了54%，而X的每日下載量增長(zhǎng)了25%。

美國(guó)科技媒體《連線》7日?qǐng)?bào)道稱，Grok和X是一個(gè)價(jià)值數(shù)百萬(wàn)美元的“去衣”產(chǎn)業(yè)的冰山一角。過(guò)去幾年里，出現(xiàn)了數(shù)十個(gè)獨(dú)立應(yīng)用和網(wǎng)站，聲稱可以在未經(jīng)同意的情況下對(duì)女性進(jìn)行“數(shù)字脫衣”，它們往往將自己包裝成無(wú)害的新奇工具，卻在實(shí)際上助長(zhǎng)了基于圖像的性暴力。訴訟和立法都需要時(shí)間，尤其是在技術(shù)以極快速度進(jìn)入市場(chǎng)的當(dāng)下，法律很難跟上這種節(jié)奏。

根據(jù)移動(dòng)應(yīng)用數(shù)據(jù)分析公司 Apptopia 的數(shù)據(jù)，自 1 月 2 日以來(lái)的一周內(nèi)，Grok 的每日下載量增長(zhǎng)了 54%。