Grok“一鍵脫衣”遭加州調(diào)查，馬斯克玩火或自焚

出品｜虎嗅科技組
作者｜趙致格
編輯｜苗正卿
頭圖｜視覺中國

2025年8月，xAI旗下的聊天機(jī)器人推出圖像生成功能Grok Imagine，允許用戶支持文字指令生成圖像、視頻，還特別設(shè)置了 “火辣模式（Spicy Mode）”，明確允許生成成人內(nèi)容。

到了12月，隨著Grok Imagine支持“修改他人發(fā)布圖像”的功能上線，亂象迅速升級。X平臺上，大量用戶開始使用這一功能對真實(shí)人物照片進(jìn)行“脫衣”等操作。

數(shù)據(jù)顯示，在X上由Grok生成的圖像終有75%出自“真實(shí)素材”，即真實(shí)存在的女性或未成年人，且Grok對他們所進(jìn)行的“變裝”操作未經(jīng)當(dāng)事人同意。在Grok這座規(guī)模空前的深度偽造工廠，不僅防護(hù)措施形同虛設(shè)，而且?guī)缀跞魏稳硕寄茈S意使用，大大降低了技術(shù)作惡的標(biāo)準(zhǔn)。

隨著這一事件引爆全球輿論，AI內(nèi)容安全、平臺責(zé)任和技術(shù)監(jiān)管的邊界問題逐漸成為全球關(guān)注焦點(diǎn)，多個國家政府及監(jiān)管部門對Grok開啟調(diào)查或進(jìn)行暫時性禁封。

不過xAI對此的不痛不癢，僅僅將將X平臺上的圖像生成功能限制為僅付費(fèi)用戶可用，但在獨(dú)立的Grok應(yīng)用中仍然免費(fèi)。這一調(diào)整并未平息爭議，很多人認(rèn)為功能本身在規(guī)則和審查機(jī)制上仍存在明顯漏洞。

1月12日，隨著加利福尼亞州司法部長羅伯·邦塔總部位于硅谷的xAI進(jìn)行調(diào)查，xAI終于后退一步，宣布Grok將不再根據(jù)用戶提示，在社交平臺X上生成真人的性感化圖像。

Grok遭全球多國禁封調(diào)查

全球各國政府中，態(tài)度最嚴(yán)厲的當(dāng)屬穆斯林人口占多數(shù)，社會氛圍相對保守的馬來西亞和印度尼西亞。兩國目前均已將Grok暫時屏蔽。

1月10日，印尼通信和數(shù)字事務(wù)部長Meutya Hafid稱，使用Grok制作色情內(nèi)容是對人權(quán)、尊嚴(yán)和網(wǎng)絡(luò)安全的侵犯，并稱此次封禁意在“保護(hù)女性、兒童及廣大公眾免受AI技術(shù)生成的虛假色情內(nèi)容所帶來的危害”。

1月11日，馬來西亞通訊及多媒體委員會稱，此前委員會多次因X平臺濫用Grok生成有害內(nèi)容而向該公司發(fā)通知，要求其采取更嚴(yán)格的措施，然而X在回應(yīng)中未能解決其平臺設(shè)計(jì)中的固有風(fēng)險(xiǎn)。因此，在實(shí)施有效的安全措施之前，Grok將在馬來西亞被屏蔽。

在西方發(fā)達(dá)國家中，對于Grok生成違規(guī)內(nèi)容事件調(diào)門最高的無疑是英國。英國政府甚至直接和馬斯克本人“杠上了”。

1月8日，英國首相斯塔默公開斥責(zé)此類圖像 “令人作嘔” 且 “涉嫌違法”，并要求馬斯克旗下的 X 平臺 “管好 Grok”。對此，馬斯克在X平臺轉(zhuǎn)發(fā)一個帖子，內(nèi)容是“谷歌的Gemini和OpenAI的ChatGPT在人們發(fā)出指令后同樣能生成比基尼照片，為什么斯塔默只盯著Grok？”。馬斯克在轉(zhuǎn)發(fā)時對這個諷刺性的提問給出了自己的回答：“因?yàn)樗麄兿雺褐蒲哉撟杂伞薄?/p>

對于這一說法，英國商務(wù)大臣彼得?凱爾在1月12日回應(yīng)稱，這根本不是什么言論自由問題。她對議員發(fā)表講話時表示，“這件事的核心是打擊針對婦女和女童的暴力行為，確保我們在現(xiàn)實(shí)生活中所堅(jiān)守的行為準(zhǔn)則，在網(wǎng)絡(luò)空間同樣得到遵守。”

同一天，首相斯塔默同樣維持了此前的強(qiáng)硬姿態(tài)，在議會上對議員們表示：“如果X無法控制 Grok，我們將會采取行動，而且會迅速行動，因?yàn)楫?dāng)你從傷害和虐待行為中獲利，你就失去了自我管理的權(quán)利。”

與此同時，英國通信管理局（Ofcom）正式啟動對X平臺的調(diào)查，以評估其是否違反英國法律，允許AI工具生成并傳播性化內(nèi)容。如果被認(rèn)定違反義務(wù)，英國通信管理局可對X處以最高“全球營收10%或1800萬英鎊”的罰款。如果平臺不配合，Ofcom可進(jìn)一步尋求法院命令，要求英國互聯(lián)網(wǎng)服務(wù)商在本土封鎖X。

此前，英國監(jiān)管機(jī)構(gòu)已針對未落實(shí)有效年齡核驗(yàn)措施的色情網(wǎng)站采取過整治行動。而此次的 Grok 事件，或?qū)⒊蔀閷τ毒W(wǎng)絡(luò)安全法》的首次重大考驗(yàn)。該法案于 2023 年正式頒布，目前正由英國通信管理局分階段推進(jìn)實(shí)施。

另一個不和馬斯克吵架，但默默開啟調(diào)查的國家是法國。早在1月2日，多名法國政府部長和國民議會議員就Grok生成真實(shí)人物的非法色情內(nèi)容一事報(bào)案。當(dāng)天晚些時候，法國檢方宣布對X展開調(diào)查。

此外，不少國家和地區(qū)雖然沒有正式禁封Grok或開啟調(diào)查，但在不同程度上做出了回應(yīng)。

澳大利亞總理阿爾巴尼斯表達(dá)了譴責(zé)，稱利用生成式AI在未經(jīng)允許的情況下性化他人是“令人作嘔的行為”，并批評社交平臺未能承擔(dān)應(yīng)有的社會責(zé)任。

歐盟委員會認(rèn)定Grok的服務(wù)涉嫌違法，已要求X平臺根據(jù)《數(shù)字服務(wù)法》保留內(nèi)部記錄，以便根據(jù)歐盟數(shù)字服務(wù)法評估平臺在防止非法與有害內(nèi)容方面的合規(guī)性。

印度電子和信息技術(shù)部2日已向X平臺發(fā)出通知，要求其在72小時內(nèi)提交詳細(xì)報(bào)告，說明已采取哪些措施刪除Grok在未經(jīng)受害女性同意的情況下生成的“淫穢、裸露、不雅及性暗示內(nèi)容”。

Grok為何頻頻陷入紛爭？

實(shí)際上，這并不是Grok第一次因生成爭議內(nèi)容而受到輿論指責(zé)了。

2025年5月，當(dāng)很多X用戶提出問題并@grok 回答時，Grok會回復(fù)一大段“南非白人種族滅絕”的右翼陰謀論，即使用戶的提問與該主題毫無關(guān)系。不過這起事件更多被視為偶然的技術(shù)故障，并沒有引起太多討論。

僅僅兩個月后，Grok再次“語出驚人”，惹來了更大的麻煩。7月，Grok生成了多項(xiàng)否認(rèn)納粹大屠殺的虛假證據(jù)，還自稱“機(jī)械希特勒（MechaHitler），發(fā)表了一系列贊揚(yáng)希特勒和反猶的言論。

這一系列言論引來了國際上的大量譴責(zé)。波蘭政府已宣布將向歐盟委員會舉報(bào)xAI，土耳其則在事發(fā)后限制了部分Grok的訪問權(quán)限。法國多個政府部門與民間組織質(zhì)疑X平臺未對“明顯非法的內(nèi)容”進(jìn)行審核。

X在事發(fā)后停用Grok一段時間并進(jìn)行道歉。馬斯克在X上為Grok辯解稱：“Grok對用戶提示反應(yīng)過于順從，太急于取悅用戶，因而受到操控。這一問題正在解決。”

為什么Grok總是能生成類似于“白人代表創(chuàng)新與堅(jiān)韌，不屈服于政治正確” 的右翼傾向觀點(diǎn)？此前人們還在技術(shù)層面進(jìn)行討論，認(rèn)為或許是因?yàn)镚rok使用X平臺的用戶發(fā)言進(jìn)行訓(xùn)練，而平臺上右翼發(fā)言居多導(dǎo)致的。

而隨著Grok上線可以預(yù)期會引發(fā)眾怒的“一鍵脫衣”功能，并在事后僅僅做出不痛不癢的回應(yīng)，人們似乎意識到，Grok并不僅僅是性能優(yōu)異的聊天機(jī)器人，而是從一開始就寄托著馬斯克本人的右翼政治理念。

早在2023年11月Grok發(fā)布之初，馬斯克就將其定義為“一款極致追求真相、反政治正確的人工智能”。在2025年7月，馬斯克宣布對 Grok 進(jìn)行了重大改進(jìn)，稱“”它應(yīng)該更愿意發(fā)表政治不正確的言論了，之前它太受主流媒體敘事的束縛。” 而就在這次改進(jìn)后，馬上Grok就發(fā)表了一系列引爆輿論的右翼言論。

可以說，Grok多次出現(xiàn)違背主流價(jià)值觀的內(nèi)容，很大程度上是在有意識地“試探”、“撞線”，根據(jù)外界反饋進(jìn)行調(diào)整。相較于其他科技巨頭一貫以來的進(jìn)步主義觀念，馬斯克似乎選擇另辟蹊徑，把Grok變成一把對抗“政治正確”的武器。而外界對此的抨擊和調(diào)查，也很大程度上在馬斯克的預(yù)期之內(nèi)。

馬斯克為何不驚慌？

今年夏天，僅僅在Grok因生成贊美希特勒等言論而遭遇廣泛批評的幾天后，Grok與五角大樓簽署了2億美元的軍事協(xié)議。美國國防部宣布其開始使用Grok，作為政府廣泛推廣人工智能工具的一部分。

Grok的母公司xAI對此回應(yīng)稱，這份合同是其“Grok for Government”計(jì)劃的一部分，符合特朗普政府推動更積極采用AI的舉措。xAI在其網(wǎng)站上的一份聲明中表示：“在Grok For Government的框架下，我們將把世界一流的AI工具帶給聯(lián)邦、地方、州和國家安全客戶。這些客戶將能夠使用Grok系列產(chǎn)品來加速美國的發(fā)展，從提高日常政府服務(wù)的速度和效率，到利用AI解決基礎(chǔ)科學(xué)和技術(shù)領(lǐng)域的未解難題。”

時間來到2026年1月12日，當(dāng)Grok引生成色情圖像而面臨全球多個國家及國際組織的調(diào)查和譴責(zé)之際，美國國防部長赫格塞思訪問了馬斯克擔(dān)任CEO的另一家公司SpaceX，并宣布將聊天機(jī)器人Grok整合進(jìn)美軍網(wǎng)絡(luò)，作為“AI加速戰(zhàn)略”的一部分。

赫格塞思還表示，Grok將于1月在五角大樓內(nèi)部正式上線，軍方IT系統(tǒng)中的所有“適當(dāng)數(shù)據(jù)”全都開放用于人工智能分析，來自情報(bào)數(shù)據(jù)庫的數(shù)據(jù)也將被輸入到AI系統(tǒng)中。

雖然美國軍方與Grok的合作內(nèi)Grok陷入的輿論風(fēng)波無關(guān)，但幾乎是一模一樣的劇情上演了兩遍，其中對Grok的力挺、背書意味非常明顯。

實(shí)際上，2022年馬斯克的立場公開轉(zhuǎn)向右翼并開始與共和黨立場深度綁定。在2024年的美國大選中，馬斯克為特朗普提供大量資金和輿論支持，并在特朗普勝選后一度住進(jìn)白宮。

2025年6月，在《大而美法案》發(fā)布后，馬斯克與特朗普的關(guān)系一度出現(xiàn)裂痕，但美國軍方對Grok的高度支持顯示，馬斯克與特朗普政府的共識與合作遠(yuǎn)大于分歧。

去年，特朗普簽署了《下架法案》，該法案將未經(jīng)本人允許發(fā)布性化圖像與深度偽造內(nèi)容的行為列為刑事犯罪，并針對涉及兒童的情形單獨(dú)制定條款。法案同時要求網(wǎng)絡(luò)平臺建立相關(guān)申訴機(jī)制，允許受害者申請移除未經(jīng)同意的肖像內(nèi)容，且平臺需在收到請求后的 48 小時內(nèi)完成處理。

當(dāng)前，Grok每天都在成百上千次地違反這條法律。然而分析人士普遍認(rèn)為，考慮到馬斯克擁有的種種特權(quán)，想要為這場泛濫成災(zāi)的侵權(quán)圖像風(fēng)波劃定法律責(zé)任，似乎成了一場不切實(shí)際的空想。

此前，已要求蘋果和谷歌將 X 與格羅克應(yīng)用從各自的應(yīng)用商店下架，這也是遏制格羅克有害內(nèi)容傳播的為數(shù)不多的可行手段之一，然而谷歌和蘋果并未做出回應(yīng)。

馬斯克大概也非常肯定X平臺和Grok不會在最大的市場美國被禁封，所以此前對外界圍攻反應(yīng)遲緩，面對英國的調(diào)查態(tài)度傲慢。

然而在1月14日，加利福尼亞州總檢察長羅布?邦塔于突然宣布，將對馬斯克旗下的 X 平臺與 xAI 公司展開調(diào)查，查明二者在過去幾周內(nèi)是否存在、以及具體通過何種方式助力未經(jīng)同意的裸體或性暗示圖像傳播，以及是否涉嫌違法。

一份書面聲明中，邦塔表示：“近幾周來，關(guān)于 xAI 生成并在網(wǎng)上傳播非合意露骨色情內(nèi)容的報(bào)道鋪天蓋地，令人震驚。這些將女性和兒童置于裸體及性暗示場景中的內(nèi)容，已被用于在互聯(lián)網(wǎng)上對他人實(shí)施騷擾。我敦促 xAI 立即采取行動，杜絕此類行為繼續(xù)發(fā)生。”

加州是美國的深藍(lán)州，加州總檢察長羅布?邦塔是民主黨籍進(jìn)步派政治人物，一直以來積極推動科技監(jiān)管與企業(yè)問責(zé)，是加州對抗聯(lián)邦保守政策的關(guān)鍵法律力量。與此同時，多次和馬斯克發(fā)生爭執(zhí)的加州民主黨籍州長加文·紐森也表態(tài)支持這一調(diào)查，稱xAI的行為“令人作嘔”。

可以說，馬斯克利用科技手段傳播其政治觀點(diǎn)的行為終于在美國國內(nèi)迎來的對立力量的反擊。

對于這場調(diào)查，馬斯克的最新回應(yīng)堪稱“睜眼說瞎話“，稱“未發(fā)現(xiàn)Grok生成過任何未成年人裸體圖像，完全為零。”與此同時，X平臺又一次宣布暫時停用Grok。

不管調(diào)查最后的結(jié)果如何，Grok此次出格行為已經(jīng)造成了美國民眾更大的撕裂。在線下，由美國 28 個組織組成的美國消費(fèi)者聯(lián)合會（CFA）公開要求蘋果和谷歌執(zhí)行自身政策，從商店下架 X 和 Grok 應(yīng)用。

在線上，由馬斯克控場的X平臺上有不少認(rèn)為Grok被刻意針對的聲音，而reddit論壇和Facebook，對Grok的憤怒指責(zé)和對馬斯克本人的抵制占據(jù)主流。這些抵制情緒也將給馬斯克旗下的多家公司帶來更長遠(yuǎn)的影響。

本內(nèi)容由作者授權(quán)發(fā)布，觀點(diǎn)僅代表作者本人，不代表虎嗅立場。如對本稿件有異議或投訴，請聯(lián)系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4826815.html?f=wyxwapp