IT之家 2 月 20 日消息,微軟昨天向《麻省理工科技評(píng)論》雜志分享一份“如何證明網(wǎng)絡(luò)內(nèi)容真實(shí)性”藍(lán)圖,旨在減少“AI 造假”、Deepfake 深度偽造現(xiàn)象。
![]()
微軟內(nèi)部的 AI 安全研究團(tuán)隊(duì)最近評(píng)估了現(xiàn)有數(shù)字篡改記錄方法,隨后提出一套可供 AI 公司、社交媒體平臺(tái)采用的技術(shù)標(biāo)準(zhǔn)。
IT之家了解到,這一鑒別標(biāo)準(zhǔn)由多種溯源手法組合而成。你可以想象自己擁有一幅倫勃朗的真跡,并試圖證明它的真?zhèn)巍?/p>
在鑒別過(guò)程中,你可能會(huì)列一份清單記錄這幅畫(huà)從何而來(lái)、轉(zhuǎn)手多少次,添加肉眼不可見(jiàn)但機(jī)器可讀的隱水印,并對(duì)畫(huà)作進(jìn)行數(shù)字掃描,生成類似指紋的數(shù)字簽名。當(dāng)這幅畫(huà)在博物館展出時(shí),懷疑者便可以通過(guò)這些手段鑒別真?zhèn)?/strong>。
微軟參照這些鑒別方式評(píng)估了 60 種溯源手法,模擬元數(shù)據(jù)被刪除、內(nèi)容被修改等現(xiàn)實(shí)場(chǎng)景,并分析哪些手法組合使用可以提供穩(wěn)定結(jié)果。
微軟首席科學(xué)官 Eric Horvitz 對(duì)此表示,這項(xiàng)研究部分受到加州立法推動(dòng)。他對(duì)此解釋道:“你可以把它理解為自我監(jiān)督。但我們也想借此提升公司形象,讓那些注重真相的人增加好感”。
不過(guò),Horvitz 并未承諾微軟一定會(huì)在自家平臺(tái)全面采用這些方案。
并且這些工具天生存在局限,它們無(wú)法判斷內(nèi)容是否“真實(shí)”,只能判斷是否“被篡改”。
加州大學(xué)伯克利分校數(shù)字取證專家 Hany Farid 對(duì)此表示,如果科技行業(yè)采用微軟方案,則可以大大提升有心人士誤導(dǎo)公眾的難度。
Farid 對(duì)此解釋道:“不過(guò)這并不能 100% 消除謠言,確實(shí)有那種無(wú)論你怎么說(shuō)都只相信自己的人。但我相信,絕大多數(shù)人仍希望知道真相”。
值得注意的是,科技行業(yè)并沒(méi)有針對(duì)越來(lái)越普遍的 AI 造假采取強(qiáng)有力行動(dòng)。去年一項(xiàng)審計(jì)發(fā)現(xiàn),IG、領(lǐng)英、Pinterest、TK 和 YouTube 等平臺(tái)只有 30% 內(nèi)容被正確標(biāo)注“AI 生成”標(biāo)簽。
Farid 對(duì)此指出:“如果扎克伯格、馬斯克認(rèn)為‘AI 生成’標(biāo)簽會(huì)降低平臺(tái)流量,那他們當(dāng)然沒(méi)有動(dòng)力去做”。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.