專家表示,其中一些在線虛擬形象是穿著迷彩服的女性,帶有性暗示色彩。這些形象已經(jīng)吸引了大量受眾,并幫助塑造了像唐納德·特朗普等政治人物的理想化形象,即使觀看者清楚這些內(nèi)容并非真實(shí)。
![]()
而在過(guò)去八年里,該組織記錄的此類事件總和為1344起。
希夫認(rèn)為,這種激增很大程度上是因?yàn)樯墒饺斯ぶ悄芗夹g(shù)的進(jìn)步,使得人們能夠快速創(chuàng)建此類內(nèi)容。
致力于保護(hù)人權(quán)和打擊欺騙性人工智能的組織“見(jiàn)證”執(zhí)行董事薩姆·格雷戈里表示,我們已經(jīng)讓“生成一個(gè)看起來(lái)非常逼真的場(chǎng)景,并將真實(shí)人物置于其中,變得輕而易舉”。
![]()
但是,那些模仿普通人而非知名人物的虛假虛擬形象,則是另一個(gè)層面的問(wèn)題。
![]()
據(jù)《華盛頓郵報(bào)》報(bào)道,一位用戶在Instagram上向福斯特的主頁(yè)發(fā)問(wèn):“為什么你從來(lái)不回復(fù)?”
該賬號(hào)已于近日被移除。
“許多人工智能生成的內(nèi)容,基本上是為了獲取點(diǎn)擊量和金錢,或者將人們引向更有利可圖的地方,”格雷戈里說(shuō)。
但此類工具也可以服務(wù)于政治目的。據(jù)BBC報(bào)道,在伊朗戰(zhàn)爭(zhēng)期間,社交媒體上涌現(xiàn)了大量視頻,其中包含虛假的伊朗女兵,她們說(shuō):“哈比比,來(lái)伊朗吧。”
![]()
其中一個(gè)破綻是,伊朗禁止女性在戰(zhàn)斗崗位服役。
該視頻獲得了超過(guò)200個(gè)贊和23條評(píng)論,其中包括:“絕對(duì)是的。”
人工智能研究人員表示,即使消費(fèi)者知道這些政治深度偽造內(nèi)容并非真實(shí),它們?nèi)匀痪哂姓f(shuō)服力。
格雷戈里指出,福斯特“穿著高跟鞋,穿著軍裝,她的軍事徽章完全是錯(cuò)誤的。她沒(méi)有任何理由會(huì)和特朗普總統(tǒng)以及尼古拉斯·馬杜羅混在一起”。他進(jìn)一步分析道:“如果你仔細(xì)想想,這一切都沒(méi)有多大意義,也經(jīng)不起推敲。但人們不一定在尋找真實(shí)的東西;他們是在尋找能代表他們信念的東西。”
布魯金斯學(xué)會(huì)人工智能和新興技術(shù)倡議的研究員瓦萊麗·維爾茨沙夫特表示,深度偽造內(nèi)容隨后會(huì)降低人們重新考慮這些信念的可能性。
維爾茨沙夫特認(rèn)為,深度偽造內(nèi)容“只是在這個(gè)強(qiáng)化而非重新審視人們認(rèn)為是真實(shí)事物的過(guò)程中,又增加了一層。”
研究人員擔(dān)心情況只會(huì)變得更糟。根據(jù)《科學(xué)》雜志最近的一項(xiàng)研究,用于構(gòu)建福斯特的技術(shù)也可以用來(lái)產(chǎn)生研究人員所說(shuō)的“人工智能蜂群”,它們能夠“自主協(xié)調(diào)、滲透社區(qū)并有效地捏造共識(shí)”。
“這有點(diǎn)像一個(gè)巨魔農(nóng)場(chǎng),只是不再需要真正的人了,”維爾茨沙夫特說(shuō)。
![]()
但研究人員也表示,人類仍然可以阻止惡意行為者利用人工智能破壞社會(huì)穩(wěn)定。
格雷戈里指出,科技公司隨后需要使用這些信息來(lái)標(biāo)記內(nèi)容是否包含人工智能。
Meta的監(jiān)督委員會(huì)最近表示,有報(bào)告稱該公司在“不一致地執(zhí)行”該聯(lián)盟的標(biāo)準(zhǔn),“甚至在由其自身人工智能工具生成的內(nèi)容上也是如此,并且只有一部分此類輸出得到了適當(dāng)?shù)臉?biāo)記”,對(duì)此他們感到擔(dān)憂。
格雷戈里認(rèn)為,標(biāo)記不一致是由于大型科技公司“高層缺乏政治意愿”。
“我們不需要放棄辨別真實(shí)與合成的能力,”他說(shuō)。“但我們確實(shí)需要迅速采取行動(dòng)。”
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.