美國(guó)政客以假亂真用AI宣傳！吸粉百萬(wàn)，科技巨頭卻視而不見(jiàn)

專家表示，其中一些在線虛擬形象是穿著迷彩服的女性，帶有性暗示色彩。這些形象已經(jīng)吸引了大量受眾，并幫助塑造了像唐納德·特朗普等政治人物的理想化形象，即使觀看者清楚這些內(nèi)容并非真實(shí)。

而在過(guò)去八年里，該組織記錄的此類事件總和為1344起。

希夫認(rèn)為，這種激增很大程度上是因?yàn)樯墒饺斯ぶ悄芗夹g(shù)的進(jìn)步，使得人們能夠快速創(chuàng)建此類內(nèi)容。

致力于保護(hù)人權(quán)和打擊欺騙性人工智能的組織“見(jiàn)證”執(zhí)行董事薩姆·格雷戈里表示，我們已經(jīng)讓“生成一個(gè)看起來(lái)非常逼真的場(chǎng)景，并將真實(shí)人物置于其中，變得輕而易舉”。

但是，那些模仿普通人而非知名人物的虛假虛擬形象，則是另一個(gè)層面的問(wèn)題。

據(jù)《華盛頓郵報(bào)》報(bào)道，一位用戶在Instagram上向福斯特的主頁(yè)發(fā)問(wèn)：“為什么你從來(lái)不回復(fù)？”

該賬號(hào)已于近日被移除。

“許多人工智能生成的內(nèi)容，基本上是為了獲取點(diǎn)擊量和金錢，或者將人們引向更有利可圖的地方，”格雷戈里說(shuō)。

但此類工具也可以服務(wù)于政治目的。據(jù)BBC報(bào)道，在伊朗戰(zhàn)爭(zhēng)期間，社交媒體上涌現(xiàn)了大量視頻，其中包含虛假的伊朗女兵，她們說(shuō)：“哈比比，來(lái)伊朗吧。”

其中一個(gè)破綻是，伊朗禁止女性在戰(zhàn)斗崗位服役。

該視頻獲得了超過(guò)200個(gè)贊和23條評(píng)論，其中包括：“絕對(duì)是的。”

人工智能研究人員表示，即使消費(fèi)者知道這些政治深度偽造內(nèi)容并非真實(shí)，它們?nèi)匀痪哂姓f(shuō)服力。

格雷戈里指出，福斯特“穿著高跟鞋，穿著軍裝，她的軍事徽章完全是錯(cuò)誤的。她沒(méi)有任何理由會(huì)和特朗普總統(tǒng)以及尼古拉斯·馬杜羅混在一起”。他進(jìn)一步分析道：“如果你仔細(xì)想想，這一切都沒(méi)有多大意義，也經(jīng)不起推敲。但人們不一定在尋找真實(shí)的東西；他們是在尋找能代表他們信念的東西。”

布魯金斯學(xué)會(huì)人工智能和新興技術(shù)倡議的研究員瓦萊麗·維爾茨沙夫特表示，深度偽造內(nèi)容隨后會(huì)降低人們重新考慮這些信念的可能性。

維爾茨沙夫特認(rèn)為，深度偽造內(nèi)容“只是在這個(gè)強(qiáng)化而非重新審視人們認(rèn)為是真實(shí)事物的過(guò)程中，又增加了一層。”

研究人員擔(dān)心情況只會(huì)變得更糟。根據(jù)《科學(xué)》雜志最近的一項(xiàng)研究，用于構(gòu)建福斯特的技術(shù)也可以用來(lái)產(chǎn)生研究人員所說(shuō)的“人工智能蜂群”，它們能夠“自主協(xié)調(diào)、滲透社區(qū)并有效地捏造共識(shí)”。

“這有點(diǎn)像一個(gè)巨魔農(nóng)場(chǎng)，只是不再需要真正的人了，”維爾茨沙夫特說(shuō)。

但研究人員也表示，人類仍然可以阻止惡意行為者利用人工智能破壞社會(huì)穩(wěn)定。

格雷戈里指出，科技公司隨后需要使用這些信息來(lái)標(biāo)記內(nèi)容是否包含人工智能。

Meta的監(jiān)督委員會(huì)最近表示，有報(bào)告稱該公司在“不一致地執(zhí)行”該聯(lián)盟的標(biāo)準(zhǔn)，“甚至在由其自身人工智能工具生成的內(nèi)容上也是如此，并且只有一部分此類輸出得到了適當(dāng)?shù)臉?biāo)記”，對(duì)此他們感到擔(dān)憂。

格雷戈里認(rèn)為，標(biāo)記不一致是由于大型科技公司“高層缺乏政治意愿”。

“我們不需要放棄辨別真實(shí)與合成的能力，”他說(shuō)。“但我們確實(shí)需要迅速采取行動(dòng)。”