盡管馬斯克否認(rèn)，Grok的生成色情圖像功能還是被取消了

X 平臺公司周三晚間證實(shí)，埃隆?馬斯克旗下的人工智能聊天機(jī)器人 Grok，將不再在 X 平臺上編輯 “穿著暴露服飾的真人圖像”。此前，人們發(fā)現(xiàn)Grok會按照用戶要求，對成年人乃至兒童的圖像進(jìn)行“數(shù)字脫衣”處理，此事引發(fā)全球公憤。

X 平臺安全團(tuán)隊(duì)官方賬號發(fā)文稱：“我們已采取技術(shù)措施，禁止 Grok 賬號對穿著比基尼等暴露服飾的真人圖像進(jìn)行編輯操作。該限制面向所有用戶，包括付費(fèi)訂閱用戶。”

就在過去一周內(nèi)，同時(shí)持有 Grok 和 X 平臺的人工智能公司 xAI，已將 Grok 在 X 平臺的圖像生成功能，僅限于向 X 平臺高級付費(fèi)訂閱用戶開放。此前，研究人員及CNN等媒體均觀察到，近幾日以來，即便對 X 平臺高級訂閱用戶，Grok 的 X 賬號針對用戶圖像生成請求的整體響應(yīng)方式也已作出調(diào)整。X 平臺于周三晚間發(fā)布的推文，證實(shí)了這些變動(dòng)。

不過，歐洲非營利算法調(diào)查機(jī)構(gòu) “人工智能鑒真組織” 的研究人員表示，他們發(fā)現(xiàn) Grok 在 X 平臺的公開交互功能，與其在 Grok 官網(wǎng)的私密聊天功能之間，存在 “色情內(nèi)容生成管控不一致” 的問題。

X 平臺于周三重申，“會針對 X 平臺上的非法內(nèi)容采取處置措施，其中包括兒童性虐待素材（CSAM）。具體措施有移除非法內(nèi)容、永久封禁相關(guān)賬號，并在必要時(shí)與當(dāng)?shù)卣皥?zhí)法部門展開合作。任何利用或誘導(dǎo) Grok 生成非法內(nèi)容的用戶，都將面臨與上傳非法內(nèi)容同等的后果。”

馬斯克于周三在 X 平臺發(fā)文稱，他“并未聽說有任何由 Grok 生成的未成年人裸體圖像。可以說，此類圖像的數(shù)量為零”。他還補(bǔ)充道，Grok“會拒絕生成任何非法內(nèi)容，其運(yùn)行的基本原則是遵守各國及各州的法律”。

但研究人員指出，盡管經(jīng)編輯生成的全裸圖像較為罕見，核心問題卻在于 Grok 遵照用戶要求，對未成年人的圖像進(jìn)行修改 —— 不僅讓未成年人“穿上”比基尼、內(nèi)衣等暴露服飾，還會使其擺出帶有性挑逗意味的姿勢。制作此類非自愿私密圖像的人員，仍可能因涉及兒童性虐待素材而被提起刑事訴訟；依據(jù)美國總統(tǒng)唐納德?特朗普于去年簽署的《下架法案》，相關(guān)人員還有可能面臨罰款與監(jiān)禁。

加州總檢察長羅布?邦塔于周三宣布，將針對 “利用 Grok 制作的非自愿露骨色情內(nèi)容泛濫問題” 展開調(diào)查。

Grok生成色情內(nèi)容的受害者還包括馬斯克第13個(gè)孩子的母親克萊爾·布歇，她控訴其少女時(shí)期照片遭篡改，且投訴后平臺未刪除相關(guān)內(nèi)容。

受此次圖像生成爭議影響，Grok 目前在印度尼西亞和馬來西亞兩地仍然被禁用。英國通信管理局于周一宣布，已對 X 平臺啟動(dòng)正式調(diào)查；不過，英國首相基爾?斯塔默的辦公室于周三表示，首相對 X 平臺正著手解決該問題的相關(guān)報(bào)道表示歡迎。