微軟提出內(nèi)容溯源“組合方案”，應(yīng)對(duì)Deepfake深度偽造與AI造假

IT之家 2 月 20 日消息，微軟昨天向《麻省理工科技評(píng)論》雜志分享一份“如何證明網(wǎng)絡(luò)內(nèi)容真實(shí)性”藍(lán)圖，旨在減少“AI 造假”、Deepfake 深度偽造現(xiàn)象。

微軟內(nèi)部的 AI 安全研究團(tuán)隊(duì)最近評(píng)估了現(xiàn)有數(shù)字篡改記錄方法，隨后提出一套可供 AI 公司、社交媒體平臺(tái)采用的技術(shù)標(biāo)準(zhǔn)。

IT之家了解到，這一鑒別標(biāo)準(zhǔn)由多種溯源手法組合而成。你可以想象自己擁有一幅倫勃朗的真跡，并試圖證明它的真?zhèn)巍?/p>

在鑒別過(guò)程中，你可能會(huì)列一份清單記錄這幅畫(huà)從何而來(lái)、轉(zhuǎn)手多少次，添加肉眼不可見(jiàn)但機(jī)器可讀的隱水印，并對(duì)畫(huà)作進(jìn)行數(shù)字掃描，生成類似指紋的數(shù)字簽名。當(dāng)這幅畫(huà)在博物館展出時(shí)，懷疑者便可以通過(guò)這些手段鑒別真?zhèn)?/strong>。

微軟參照這些鑒別方式評(píng)估了 60 種溯源手法，模擬元數(shù)據(jù)被刪除、內(nèi)容被修改等現(xiàn)實(shí)場(chǎng)景，并分析哪些手法組合使用可以提供穩(wěn)定結(jié)果。

微軟首席科學(xué)官 Eric Horvitz 對(duì)此表示，這項(xiàng)研究部分受到加州立法推動(dòng)。他對(duì)此解釋道：“你可以把它理解為自我監(jiān)督。但我們也想借此提升公司形象，讓那些注重真相的人增加好感”。

不過(guò)，Horvitz 并未承諾微軟一定會(huì)在自家平臺(tái)全面采用這些方案。

并且這些工具天生存在局限，它們無(wú)法判斷內(nèi)容是否“真實(shí)”，只能判斷是否“被篡改”。

加州大學(xué)伯克利分校數(shù)字取證專家 Hany Farid 對(duì)此表示，如果科技行業(yè)采用微軟方案，則可以大大提升有心人士誤導(dǎo)公眾的難度。

Farid 對(duì)此解釋道：“不過(guò)這并不能 100% 消除謠言，確實(shí)有那種無(wú)論你怎么說(shuō)都只相信自己的人。但我相信，絕大多數(shù)人仍希望知道真相”。

值得注意的是，科技行業(yè)并沒(méi)有針對(duì)越來(lái)越普遍的 AI 造假采取強(qiáng)有力行動(dòng)。去年一項(xiàng)審計(jì)發(fā)現(xiàn)，IG、領(lǐng)英、Pinterest、TK 和 YouTube 等平臺(tái)只有 30% 內(nèi)容被正確標(biāo)注“AI 生成”標(biāo)簽。

Farid 對(duì)此指出：“如果扎克伯格、馬斯克認(rèn)為‘AI 生成’標(biāo)簽會(huì)降低平臺(tái)流量，那他們當(dāng)然沒(méi)有動(dòng)力去做”。