Grok“一鍵脫衣”遭加州調查，馬斯克玩火或自焚

出品｜虎嗅科技組
作者｜趙致格
編輯｜苗正卿
頭圖｜視覺中國

2025年8月，xAI旗下的聊天機器人推出圖像生成功能Grok Imagine，允許用戶支持文字指令生成圖像、視頻，還特別設置了 “火辣模式（Spicy Mode）”，明確允許生成成人內容。

到了12月，隨著Grok Imagine支持“修改他人發布圖像”的功能上線，亂象迅速升級。X平臺上，大量用戶開始使用這一功能對真實人物照片進行“脫衣”等操作。

數據顯示，在X上由Grok生成的圖像終有75%出自“真實素材”，即真實存在的女性或未成年人，且Grok對他們所進行的“變裝”操作未經當事人同意。在Grok這座規模空前的深度偽造工廠，不僅防護措施形同虛設，而且幾乎任何人都能隨意使用，大大降低了技術作惡的標準。

隨著這一事件引爆全球輿論，AI內容安全、平臺責任和技術監管的邊界問題逐漸成為全球關注焦點，多個國家政府及監管部門對Grok開啟調查或進行暫時性禁封。

不過xAI對此的不痛不癢，僅僅將將X平臺上的圖像生成功能限制為僅付費用戶可用，但在獨立的Grok應用中仍然免費。這一調整并未平息爭議，很多人認為功能本身在規則和審查機制上仍存在明顯漏洞。

1月12日，隨著加利福尼亞州司法部長羅伯·邦塔總部位于硅谷的xAI進行調查，xAI終于后退一步，宣布Grok將不再根據用戶提示，在社交平臺X上生成真人的性感化圖像。

Grok遭全球多國禁封調查

全球各國政府中，態度最嚴厲的當屬穆斯林人口占多數，社會氛圍相對保守的馬來西亞和印度尼西亞。兩國目前均已將Grok暫時屏蔽。

1月10日，印尼通信和數字事務部長Meutya Hafid稱，使用Grok制作色情內容是對人權、尊嚴和網絡安全的侵犯，并稱此次封禁意在“保護女性、兒童及廣大公眾免受AI技術生成的虛假色情內容所帶來的危害”。

1月11日，馬來西亞通訊及多媒體委員會稱，此前委員會多次因X平臺濫用Grok生成有害內容而向該公司發通知，要求其采取更嚴格的措施，然而X在回應中未能解決其平臺設計中的固有風險。因此，在實施有效的安全措施之前，Grok將在馬來西亞被屏蔽。

在西方發達國家中，對于Grok生成違規內容事件調門最高的無疑是英國。英國政府甚至直接和馬斯克本人“杠上了”。

1月8日，英國首相斯塔默公開斥責此類圖像 “令人作嘔” 且 “涉嫌違法”，并要求馬斯克旗下的 X 平臺 “管好 Grok”。對此，馬斯克在X平臺轉發一個帖子，內容是“谷歌的Gemini和OpenAI的ChatGPT在人們發出指令后同樣能生成比基尼照片，為什么斯塔默只盯著Grok？”。馬斯克在轉發時對這個諷刺性的提問給出了自己的回答：“因為他們想壓制言論自由”。

對于這一說法，英國商務大臣彼得?凱爾在1月12日回應稱，這根本不是什么言論自由問題。她對議員發表講話時表示，“這件事的核心是打擊針對婦女和女童的暴力行為，確保我們在現實生活中所堅守的行為準則，在網絡空間同樣得到遵守。”

同一天，首相斯塔默同樣維持了此前的強硬姿態，在議會上對議員們表示：“如果X無法控制 Grok，我們將會采取行動，而且會迅速行動，因為當你從傷害和虐待行為中獲利，你就失去了自我管理的權利。”

與此同時，英國通信管理局（Ofcom）正式啟動對X平臺的調查，以評估其是否違反英國法律，允許AI工具生成并傳播性化內容。如果被認定違反義務，英國通信管理局可對X處以最高“全球營收10%或1800萬英鎊”的罰款。如果平臺不配合，Ofcom可進一步尋求法院命令，要求英國互聯網服務商在本土封鎖X。

此前，英國監管機構已針對未落實有效年齡核驗措施的色情網站采取過整治行動。而此次的 Grok 事件，或將成為對英國《網絡安全法》的首次重大考驗。該法案于 2023 年正式頒布，目前正由英國通信管理局分階段推進實施。

另一個不和馬斯克吵架，但默默開啟調查的國家是法國。早在1月2日，多名法國政府部長和國民議會議員就Grok生成真實人物的非法色情內容一事報案。當天晚些時候，法國檢方宣布對X展開調查。

此外，不少國家和地區雖然沒有正式禁封Grok或開啟調查，但在不同程度上做出了回應。

澳大利亞總理阿爾巴尼斯表達了譴責，稱利用生成式AI在未經允許的情況下性化他人是“令人作嘔的行為”，并批評社交平臺未能承擔應有的社會責任。

歐盟委員會認定Grok的服務涉嫌違法，已要求X平臺根據《數字服務法》保留內部記錄，以便根據歐盟數字服務法評估平臺在防止非法與有害內容方面的合規性。

印度電子和信息技術部2日已向X平臺發出通知，要求其在72小時內提交詳細報告，說明已采取哪些措施刪除Grok在未經受害女性同意的情況下生成的“淫穢、裸露、不雅及性暗示內容”。

Grok為何頻頻陷入紛爭？

實際上，這并不是Grok第一次因生成爭議內容而受到輿論指責了。

2025年5月，當很多X用戶提出問題并@grok 回答時，Grok會回復一大段“南非白人種族滅絕”的右翼陰謀論，即使用戶的提問與該主題毫無關系。不過這起事件更多被視為偶然的技術故障，并沒有引起太多討論。

僅僅兩個月后，Grok再次“語出驚人”，惹來了更大的麻煩。7月，Grok生成了多項否認納粹大屠殺的虛假證據，還自稱“機械希特勒（MechaHitler），發表了一系列贊揚希特勒和反猶的言論。

這一系列言論引來了國際上的大量譴責。波蘭政府已宣布將向歐盟委員會舉報xAI，土耳其則在事發后限制了部分Grok的訪問權限。法國多個政府部門與民間組織質疑X平臺未對“明顯非法的內容”進行審核。

X在事發后停用Grok一段時間并進行道歉。馬斯克在X上為Grok辯解稱：“Grok對用戶提示反應過于順從，太急于取悅用戶，因而受到操控。這一問題正在解決。”

為什么Grok總是能生成類似于“白人代表創新與堅韌，不屈服于政治正確” 的右翼傾向觀點？此前人們還在技術層面進行討論，認為或許是因為Grok使用X平臺的用戶發言進行訓練，而平臺上右翼發言居多導致的。

而隨著Grok上線可以預期會引發眾怒的“一鍵脫衣”功能，并在事后僅僅做出不痛不癢的回應，人們似乎意識到，Grok并不僅僅是性能優異的聊天機器人，而是從一開始就寄托著馬斯克本人的右翼政治理念。

早在2023年11月Grok發布之初，馬斯克就將其定義為“一款極致追求真相、反政治正確的人工智能”。在2025年7月，馬斯克宣布對 Grok 進行了重大改進，稱“”它應該更愿意發表政治不正確的言論了，之前它太受主流媒體敘事的束縛。” 而就在這次改進后，馬上Grok就發表了一系列引爆輿論的右翼言論。

可以說，Grok多次出現違背主流價值觀的內容，很大程度上是在有意識地“試探”、“撞線”，根據外界反饋進行調整。相較于其他科技巨頭一貫以來的進步主義觀念，馬斯克似乎選擇另辟蹊徑，把Grok變成一把對抗“政治正確”的武器。而外界對此的抨擊和調查，也很大程度上在馬斯克的預期之內。

馬斯克為何不驚慌？

今年夏天，僅僅在Grok因生成贊美希特勒等言論而遭遇廣泛批評的幾天后，Grok與五角大樓簽署了2億美元的軍事協議。美國國防部宣布其開始使用Grok，作為政府廣泛推廣人工智能工具的一部分。

Grok的母公司xAI對此回應稱，這份合同是其“Grok for Government”計劃的一部分，符合特朗普政府推動更積極采用AI的舉措。xAI在其網站上的一份聲明中表示：“在Grok For Government的框架下，我們將把世界一流的AI工具帶給聯邦、地方、州和國家安全客戶。這些客戶將能夠使用Grok系列產品來加速美國的發展，從提高日常政府服務的速度和效率，到利用AI解決基礎科學和技術領域的未解難題。”

時間來到2026年1月12日，當Grok引生成色情圖像而面臨全球多個國家及國際組織的調查和譴責之際，美國國防部長赫格塞思訪問了馬斯克擔任CEO的另一家公司SpaceX，并宣布將聊天機器人Grok整合進美軍網絡，作為“AI加速戰略”的一部分。

赫格塞思還表示，Grok將于1月在五角大樓內部正式上線，軍方IT系統中的所有“適當數據”全都開放用于人工智能分析，來自情報數據庫的數據也將被輸入到AI系統中。

雖然美國軍方與Grok的合作內Grok陷入的輿論風波無關，但幾乎是一模一樣的劇情上演了兩遍，其中對Grok的力挺、背書意味非常明顯。

實際上，2022年馬斯克的立場公開轉向右翼并開始與共和黨立場深度綁定。在2024年的美國大選中，馬斯克為特朗普提供大量資金和輿論支持，并在特朗普勝選后一度住進白宮。

2025年6月，在《大而美法案》發布后，馬斯克與特朗普的關系一度出現裂痕，但美國軍方對Grok的高度支持顯示，馬斯克與特朗普政府的共識與合作遠大于分歧。

去年，特朗普簽署了《下架法案》，該法案將未經本人允許發布性化圖像與深度偽造內容的行為列為刑事犯罪，并針對涉及兒童的情形單獨制定條款。法案同時要求網絡平臺建立相關申訴機制，允許受害者申請移除未經同意的肖像內容，且平臺需在收到請求后的 48 小時內完成處理。

當前，Grok每天都在成百上千次地違反這條法律。然而分析人士普遍認為，考慮到馬斯克擁有的種種特權，想要為這場泛濫成災的侵權圖像風波劃定法律責任，似乎成了一場不切實際的空想。

此前，已要求蘋果和谷歌將 X 與格羅克應用從各自的應用商店下架，這也是遏制格羅克有害內容傳播的為數不多的可行手段之一，然而谷歌和蘋果并未做出回應。

馬斯克大概也非常肯定X平臺和Grok不會在最大的市場美國被禁封，所以此前對外界圍攻反應遲緩，面對英國的調查態度傲慢。

然而在1月14日，加利福尼亞州總檢察長羅布?邦塔于突然宣布，將對馬斯克旗下的 X 平臺與 xAI 公司展開調查，查明二者在過去幾周內是否存在、以及具體通過何種方式助力未經同意的裸體或性暗示圖像傳播，以及是否涉嫌違法。

一份書面聲明中，邦塔表示：“近幾周來，關于 xAI 生成并在網上傳播非合意露骨色情內容的報道鋪天蓋地，令人震驚。這些將女性和兒童置于裸體及性暗示場景中的內容，已被用于在互聯網上對他人實施騷擾。我敦促 xAI 立即采取行動，杜絕此類行為繼續發生。”

加州是美國的深藍州，加州總檢察長羅布?邦塔是民主黨籍進步派政治人物，一直以來積極推動科技監管與企業問責，是加州對抗聯邦保守政策的關鍵法律力量。與此同時，多次和馬斯克發生爭執的加州民主黨籍州長加文·紐森也表態支持這一調查，稱xAI的行為“令人作嘔”。

可以說，馬斯克利用科技手段傳播其政治觀點的行為終于在美國國內迎來的對立力量的反擊。

對于這場調查，馬斯克的最新回應堪稱“睜眼說瞎話“，稱“未發現Grok生成過任何未成年人裸體圖像，完全為零。”與此同時，X平臺又一次宣布暫時停用Grok。

不管調查最后的結果如何，Grok此次出格行為已經造成了美國民眾更大的撕裂。在線下，由美國 28 個組織組成的美國消費者聯合會（CFA）公開要求蘋果和谷歌執行自身政策，從商店下架 X 和 Grok 應用。

在線上，由馬斯克控場的X平臺上有不少認為Grok被刻意針對的聲音，而reddit論壇和Facebook，對Grok的憤怒指責和對馬斯克本人的抵制占據主流。這些抵制情緒也將給馬斯克旗下的多家公司帶來更長遠的影響。

本內容由作者授權發布，觀點僅代表作者本人，不代表虎嗅立場。如對本稿件有異議或投訴，請聯系 tougao@huxiu.com。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4826815.html?f=wyxwapp