因新增圖像編輯功能被用戶用于生成色情內容,美國企業家馬斯克旗下人工智能企業xAI的聊天機器人“格羅克(Grok)”近日再度引發爭議。
“格羅克”由xAI公司開發,并內置于馬斯克擁有的社交媒體X平臺,X用戶可直接調用該聊天機器人。近日,X平臺出現部分用戶利用“格羅克”編輯圖片和視頻的現象,部分內容可以假亂真。一些用戶借此生成真實人物的虛假性暴露內容,并在X平臺上散播,受害者包括數百名女性和未成年人。
這一亂象隨即引起公憤。歐盟委員會負責數字經濟事務的發言人托馬斯·雷尼耶1月5日回應說,正“嚴肅調查”針對“格羅克”的相關投訴。“‘格羅克’推出所謂‘熱辣模式’,不僅展示露骨性內容,部分生成內容還帶有兒童特征。這根本不是‘熱辣內容’,而是違法行為,令人震驚。這種事在歐洲沒有立足之地。”
X平臺4日就相關爭議回應稱,將對平臺上的非法內容采取行動,包括刪除相關內容、永久封禁賬號,并在必要時與當地政府和執法部門合作。馬斯克3日發帖表示,任何使用“格羅克”制作非法內容的人,都將面臨與上傳非法內容相同的后果。(新華社)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.