大數(shù)據(jù)文摘出品
馬斯克旗下AI工具Grok又因為負面新聞上熱搜了。
這一次,它在毫無明確指令的情況下,自動生成了歌手泰勒·斯威夫特的裸照。
事件發(fā)生在Grok最新的功能“Grok Imagine”剛剛上線之后。
美國科技媒體The Verge的記者Jess Weatherbed在測試功能時,首次使用即生成了數(shù)十張斯威夫特穿著暴露的照片。她的指令只是“泰勒·斯威夫特和男孩們在科切拉慶祝”。
系統(tǒng)提供了四種內(nèi)容預(yù)設(shè):“自定義”、“正常”、“有趣”與“辣味”。Weatherbed選擇了“辣味”模式,并確認了出生日期,Grok隨后便生成了一段短視頻。
視頻中,斯威夫特撕掉自己的衣服,僅穿丁字褲,在一個“AI生成的漠不關(guān)心的人群前跳舞”。
整個過程,記者并未嘗試繞過任何系統(tǒng)限制,或使用任何破解手段。
她只是按部就班地使用了官方功能。這使得事件更加嚴重:因為這不是黑客攻擊,也不是深度偽造,更不是惡意輸入,而是系統(tǒng)默認行為。
![]()
01 平臺沉默,功能失控
Grok的“辣味”模式表現(xiàn)極不穩(wěn)定。在一些情況下,它可以拒絕不當內(nèi)容,甚至在涉及兒童圖像時表現(xiàn)出過濾能力。
但在另一些情況下,它卻會“自動脫衣”、“默認裸露”,尤其在涉及明星形象時。
Grok未被提示生成裸照,也沒有被要求進行外貌修改,卻主動完成了性暗示內(nèi)容的合成。
這是去年X平臺深陷斯威夫特深偽圖風(fēng)波后的又一次危機。當時,X平臺曾表態(tài)稱“對非自愿性裸照零容忍”。平臺當時的安全團隊表示,已開始主動刪除相關(guān)內(nèi)容,并封禁相關(guān)賬號。
如今,這一承諾正面臨重大考驗。
《The Verge》的爆料引發(fā)輿論熱議,但X平臺目前并未發(fā)表正式回應(yīng)。
馬斯克本人也未作解釋,而是繼續(xù)鼓勵用戶使用“Grok Imagine”功能,并分享生成內(nèi)容。
這意味著,平臺不僅沒有封禁此類輸出,反而在推動該功能大規(guī)模傳播。
而根據(jù)當前Grok的生成機制來看,一旦用戶嘗試使用“辣味”模式,其結(jié)果將不可控。即使輸入模糊或無害,輸出內(nèi)容也可能突破倫理紅線。
02 法律在即,風(fēng)險逼近
美國“Take It Down Act”已經(jīng)正式生效。該法要求平臺必須**“迅速下架所有非自愿性性影像內(nèi)容”,無論其是否為AI合成。
這也意味著,若Grok持續(xù)輸出此類內(nèi)容,xAI及其母公司X將可能面臨法律責(zé)任。
![]()
圖注:Grok 生成了大量可供選擇的圖像。
特別是在斯威夫特這種明確表達過反對使用其形象生成深偽內(nèi)容的公眾人物案例中,平臺更難以回避責(zé)任。
盡管Grok在某些測試中顯示出防御機制,例如拒絕針對兒童的不當請求、拒絕對體型進行惡意修改。
但在其他方面,如明星的非自愿性性化合成,其系統(tǒng)行為依然缺乏明確約束。
技術(shù)層面,xAI可通過更精細的模型調(diào)校來修正這一漏洞。
但從現(xiàn)有表現(xiàn)看,平臺并未優(yōu)先考慮此類優(yōu)化。
而這種“既知漏洞而不修復(fù)”的態(tài)度,很可能成為司法追責(zé)的關(guān)鍵證據(jù)。
值得注意的是,在此次爭議中,Grok并非“被利用”,而是主動輸出”不當內(nèi)容。
這使得傳統(tǒng)的“平臺免責(zé)”策略難以成立。
作者長期關(guān)注 AI 產(chǎn)業(yè)與學(xué)術(shù),歡迎對這些方向感興趣的朋友添加微信Q1yezi,共同交流行業(yè)動態(tài)與技術(shù)趨勢!
GPU 訓(xùn)練特惠!
H100/H200 GPU算力按秒計費,平均節(jié)省開支30%以上!
掃碼了解詳情?
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.