Grok 辣味模式失控！輸入“慶祝”輸出“脫衣”

大數(shù)據(jù)文摘出品

馬斯克旗下AI工具Grok又因為負面新聞上熱搜了。

這一次，它在毫無明確指令的情況下，自動生成了歌手泰勒·斯威夫特的裸照。

事件發(fā)生在Grok最新的功能“Grok Imagine”剛剛上線之后。

美國科技媒體The Verge的記者Jess Weatherbed在測試功能時，首次使用即生成了數(shù)十張斯威夫特穿著暴露的照片。她的指令只是“泰勒·斯威夫特和男孩們在科切拉慶祝”。

系統(tǒng)提供了四種內(nèi)容預(yù)設(shè)：“自定義”、“正常”、“有趣”與“辣味”。Weatherbed選擇了“辣味”模式，并確認了出生日期，Grok隨后便生成了一段短視頻。

視頻中，斯威夫特撕掉自己的衣服，僅穿丁字褲，在一個“AI生成的漠不關(guān)心的人群前跳舞”。

整個過程，記者并未嘗試繞過任何系統(tǒng)限制，或使用任何破解手段。

她只是按部就班地使用了官方功能。這使得事件更加嚴重：因為這不是黑客攻擊，也不是深度偽造，更不是惡意輸入，而是系統(tǒng)默認行為。

01 平臺沉默，功能失控

Grok的“辣味”模式表現(xiàn)極不穩(wěn)定。在一些情況下，它可以拒絕不當內(nèi)容，甚至在涉及兒童圖像時表現(xiàn)出過濾能力。

但在另一些情況下，它卻會“自動脫衣”、“默認裸露”，尤其在涉及明星形象時。

Grok未被提示生成裸照，也沒有被要求進行外貌修改，卻主動完成了性暗示內(nèi)容的合成。

這是去年X平臺深陷斯威夫特深偽圖風(fēng)波后的又一次危機。當時，X平臺曾表態(tài)稱“對非自愿性裸照零容忍”。平臺當時的安全團隊表示，已開始主動刪除相關(guān)內(nèi)容，并封禁相關(guān)賬號。

如今，這一承諾正面臨重大考驗。

《The Verge》的爆料引發(fā)輿論熱議，但X平臺目前并未發(fā)表正式回應(yīng)。

馬斯克本人也未作解釋，而是繼續(xù)鼓勵用戶使用“Grok Imagine”功能，并分享生成內(nèi)容。

這意味著，平臺不僅沒有封禁此類輸出，反而在推動該功能大規(guī)模傳播。

而根據(jù)當前Grok的生成機制來看，一旦用戶嘗試使用“辣味”模式，其結(jié)果將不可控。即使輸入模糊或無害，輸出內(nèi)容也可能突破倫理紅線。

02 法律在即，風(fēng)險逼近

美國“Take It Down Act”已經(jīng)正式生效。該法要求平臺必須**“迅速下架所有非自愿性性影像內(nèi)容”，無論其是否為AI合成。

這也意味著，若Grok持續(xù)輸出此類內(nèi)容，xAI及其母公司X將可能面臨法律責(zé)任。

圖注：Grok 生成了大量可供選擇的圖像。

特別是在斯威夫特這種明確表達過反對使用其形象生成深偽內(nèi)容的公眾人物案例中，平臺更難以回避責(zé)任。

盡管Grok在某些測試中顯示出防御機制，例如拒絕針對兒童的不當請求、拒絕對體型進行惡意修改。

但在其他方面，如明星的非自愿性性化合成，其系統(tǒng)行為依然缺乏明確約束。

技術(shù)層面，xAI可通過更精細的模型調(diào)校來修正這一漏洞。

但從現(xiàn)有表現(xiàn)看，平臺并未優(yōu)先考慮此類優(yōu)化。

而這種“既知漏洞而不修復(fù)”的態(tài)度，很可能成為司法追責(zé)的關(guān)鍵證據(jù)。

值得注意的是，在此次爭議中，Grok并非“被利用”，而是主動輸出”不當內(nèi)容。

這使得傳統(tǒng)的“平臺免責(zé)”策略難以成立。

作者長期關(guān)注 AI 產(chǎn)業(yè)與學(xué)術(shù)，歡迎對這些方向感興趣的朋友添加微信Q1yezi，共同交流行業(yè)動態(tài)與技術(shù)趨勢！

GPU 訓(xùn)練特惠！

H100/H200 GPU算力按秒計費，平均節(jié)省開支30%以上！

掃碼了解詳情?