河南
快科技2月19日消息，上月，X平臺（原推特）在全球監管重壓下，正式封禁了旗下AI聊天機器人Grok的 "比基尼模式"，禁止其將真人照片編輯成穿著暴露服裝的圖像。
這一舉措源于Grok被廣泛濫用，用戶通過標簽@grok就能生成未經同意的性化深度偽造內容，甚至涉及未成年人，引發 "賽博性暴力" 爭議。
據了解，Grok的圖像編輯功能曾允許用戶上傳照片并生成穿著比基尼、內衣等暴露服裝的版本，每小時產生數千條違規內容，數百名女性和兒童成為受害者。
印尼、馬來西亞率先封禁Grok服務，英國通信管理局 (Ofcom) 啟動正式調查，歐盟委員會也發出嚴厲警告。
本月18日，英國政府進一步升級監管，提出AI不雅內容緊急刪除新規：
要求科技公司在48小時內刪除平臺上未經同意的私密圖像、性化深度偽造內容等侵害性圖片，違規平臺將面臨全球收入10%的巨額罰款，或被禁止在英國提供服務。
Ofcom正考慮對私密圖像實施數字標記，實現類似兒童性虐待材料的自動刪除機制。
這一新規是對《在線安全法》的補充，此前英國《數據法案》已將未經同意制作私密圖像定為刑事犯罪，首相基爾·斯塔默強調："沒有任何平臺能獲得免費通行證，必須保護民眾尤其是兒童免受非法AI內容傷害"。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
