全球監管機構：AI圖像工具不能無視隱私保護規則

全球隱私監管聯盟向生成式AI行業發出警告，表示制造逼真合成圖像的公司不能假裝數據保護規則不適用于它們。

這份由60多個監管機構簽署的聯合聲明包括英國信息專員辦公室（ICO）和愛爾蘭數據保護委員會（DPC），其核心觀點很簡單：如果你的模型能夠令人信服地偽造一個人，你就不能假裝數據保護法不存在。

簽署方表示："最新發展——特別是集成到廣泛使用的社交媒體平臺中的AI圖像和視頻生成技術——已經能夠創建非自愿的私密圖像、誹謗性描述以及其他以真實個人為特色的有害內容。我們特別擔心對兒童和其他弱勢群體的潛在傷害，如網絡霸凌和/或剝削。"

這一警告發出的幾周前，ICO和DPC剛剛對埃隆·馬斯克的xAI公司展開正式調查，原因是有報告稱其Grok聊天機器人在未經同意的情況下生成了真實人物的性圖像。

該組織表示，涉足生成式AI的機構需要從一開始就建立保障措施，并仔細考慮風險，如非自愿圖像、濫用他人肖像以及對兒童的潛在傷害——在這些領域，技術已經超越了社會規范，在某些情況下甚至超越了常識。

監管機構強調，法律已經涵蓋了這一點，公司不能僅僅因為內容來自機器就獲得免責通行證。

ICO監管風險與創新執行董事威廉·馬爾科姆表示："人們應該能夠從AI中受益，而不必擔心他們的身份、尊嚴或安全受到威脅。AI已經在我們所有人的生活中發揮著重要作用，每個人都有權期望處理其個人數據的AI系統會以尊重的方式進行。負責任的創新意味著以人為本：預測風險并建立有意義的保障措施以確保自主性、透明度和控制。"

"公眾信任是AI成功采用和使用的基礎。像這樣的聯合監管倡議顯示了全球對AI系統中高標準數據保護的承諾，并有助于提供監管確定性。我們期望那些開發和部署AI的人能夠負責任地行事。如果我們發現義務沒有得到履行，我們將采取行動保護公眾。"

關于AI生成圖像的聯合聲明表明，如果公司希望繼續將更加逼真的AI推向日常產品，他們應該期待監管機構會繼續詢問關于其工作原理的尷尬問題。

Q&A

Q1：全球監管機構對生成式AI圖像工具的主要擔憂是什么？

A：監管機構主要擔憂AI圖像生成技術能夠創建非自愿的私密圖像、誹謗性描述以及其他有害內容，特別是對兒童和弱勢群體可能造成網絡霸凌和剝削等傷害。他們強調這些技術不能無視現有的數據保護法規。

Q2：xAI公司的Grok聊天機器人遇到了什么問題？

A：xAI公司的Grok聊天機器人因在未經同意的情況下生成真實人物的性圖像而受到英國信息專員辦公室和愛爾蘭數據保護委員會的正式調查。這成為監管機構發出警告的直接導火索。

Q3：AI公司需要采取哪些措施來遵守數據保護規則？

A：AI公司需要從開發初期就建立保障措施，仔細評估非自愿圖像生成、濫用他人肖像等風險，特別是要保護兒童免受傷害。監管機構強調負責任的創新要以人為本，確保自主性、透明度和控制。