0成本“投毒”，AI的謊言，我們毫不知情

撰文｜咸閑

編輯｜咸閑

審核｜燁 Lydia

聲明｜圖片來(lái)源網(wǎng)絡(luò)。日晞研究所原創(chuàng)文章，如需轉(zhuǎn)載請(qǐng)留言申請(qǐng)開(kāi)白。

AI正在說(shuō)謊，我們卻渾然不知？

作為一項(xiàng)新興技術(shù)，人們對(duì)AI產(chǎn)生強(qiáng)有的新鮮感，它以驚人的效率與廣博的知識(shí)，重塑了人們獲取信息的方式。

深夜向AI咨詢健康問(wèn)題，在購(gòu)物時(shí)聽(tīng)從它的推薦，在求職時(shí)采納它的建議，融合在了人們生活的各個(gè)方面。

然而，在這種日益加深的依賴背后，一個(gè)潛在的風(fēng)險(xiǎn)卻被輕易忽略：那些聽(tīng)起來(lái)無(wú)比客觀、權(quán)威的答案，其源頭可能早已被一張無(wú)形的數(shù)據(jù)污染網(wǎng)所毒化。

11月5日，“知危”發(fā)布視頻，展示進(jìn)行了一項(xiàng)0成本的“ai投毒”實(shí)驗(yàn)，他們通過(guò)在網(wǎng)絡(luò)發(fā)布一篇包含夸知危內(nèi)容的“盤點(diǎn)型文章”，成功讓國(guó)內(nèi)頭部AI（如DeepSeek）在被詢問(wèn)“國(guó)內(nèi)頭部AI媒體有哪些”時(shí)，將知危列入答案。

僅僅用一篇文章，就能夠成功地讓主流AI將虛假信息吸收為“權(quán)威答案”。

事實(shí)證明，如今的AI系統(tǒng)遠(yuǎn)非我們想象中那般真實(shí)可靠。

它們的知識(shí)體系存在著致命漏洞——不僅可能直接或間接的吸收網(wǎng)絡(luò)上的虛假信息，更可能被任何人以極低成本刻意“投毒”。

那么，在這個(gè)算法構(gòu)建的迷宮里，人們又該如何去識(shí)別這些精心包裝的謊言？

信任“羅生門”

從最初的AI換臉、聲音克隆，用戶們已經(jīng)見(jiàn)識(shí)了許許多多的AI手段被亂用到人們的生活。

AI可以生成不存在但極為逼真的人形，近日，在電商直播方面，演員溫崢嶸同時(shí)“現(xiàn)身”在各個(gè)直播間，他穿著不同的衣服宣傳著各家不同的產(chǎn)品，動(dòng)作神態(tài)乃至聲音，都是與本人極為相似的。

他本人都表示，自己沒(méi)有辦法去自證，從去年開(kāi)始工作室就開(kāi)始舉報(bào)，舉報(bào)也舉報(bào)不完，‘你是溫崢嶸，那我是誰(shuí)？’

圖片來(lái)源：青聚錦官城

AI技術(shù)不斷進(jìn)化，在通過(guò)不斷采集一個(gè)人在公開(kāi)場(chǎng)合的聲音、面部的肌肉動(dòng)作和音頻數(shù)據(jù)，就能夠去復(fù)制出極為逼真的人形。

目前，在各個(gè)社交媒體總會(huì)出現(xiàn)各種各樣的AI視頻，因?yàn)锳I出擁有極大爭(zhēng)議和反人類的故事情節(jié)時(shí)，往往也博取了巨大的流量，評(píng)論區(qū)的網(wǎng)友在面對(duì)這些視頻時(shí)，也直呼是真是假，難以判斷。

這些通過(guò)各種數(shù)據(jù)堆積的“合成身份”被用于申請(qǐng)貸款、進(jìn)行網(wǎng)絡(luò)水軍活動(dòng)等，就像數(shù)字世界的一個(gè)個(gè)幽靈，難以追溯，也很難判斷真假。

現(xiàn)在的AI，已經(jīng)不再是簡(jiǎn)單的科技工具，而是融入進(jìn)了我們的生活的各個(gè)決策系統(tǒng)，替人們?yōu)樽约旱倪x擇出謀劃策。

據(jù)統(tǒng)計(jì)，超過(guò)60%的用戶完全信任AI提供的搜索結(jié)果，而這一信任卻在同一時(shí)間被系統(tǒng)性地濫用了。

通過(guò)知危的實(shí)驗(yàn)，可以看出對(duì)于企業(yè)來(lái)說(shuō)，想要通過(guò)簡(jiǎn)單的手段通過(guò)堆砌關(guān)鍵詞、操縱網(wǎng)絡(luò)信息或制造虛假好評(píng)來(lái)“優(yōu)化”AI認(rèn)知，從而來(lái)宣傳自身，是輕而易舉的。

當(dāng)欺騙變得越來(lái)越廉價(jià)時(shí)，那么帶來(lái)的沖擊就不再僅僅只是直接的精神損失，它系統(tǒng)地瓦解了商業(yè)社會(huì)下依賴的信任基礎(chǔ)。

合同、印章、簽名、視頻會(huì)議、官方聲明……這些傳統(tǒng)商業(yè)信用的載體，在AI面前變得脆弱不堪。

如果一份由領(lǐng)導(dǎo)簽署的電子合同可能是偽造的，一次關(guān)鍵的跨國(guó)視頻談判可能是演員的表演，那么企業(yè)之間、企業(yè)與客戶之間的基本信任將如何維系？

交易成本將急劇攀升，每一次合作都需要投入巨大的驗(yàn)證成本，商業(yè)效率將大打折扣。

而一個(gè)精心策劃的AI騙局，足以讓一家百年老店聲譽(yù)掃地。

想象一下，如果在‘邪惡’的商業(yè)競(jìng)爭(zhēng)下，一段偽造的“工廠使用劣質(zhì)原料”的生產(chǎn)線視頻在社交媒體病毒式傳播，即便最終被證偽，但對(duì)于品牌形象來(lái)說(shuō)，造成的傷害也可能是不可逆的。

在“后真相”時(shí)代，情緒的傳播速度遠(yuǎn)快于事實(shí)的澄清速度。

圖片來(lái)源：人民日?qǐng)?bào)

對(duì)于普通人而言，AI欺騙帶來(lái)的是一種彌漫性的焦慮。

前段時(shí)間，社交媒體上也同樣出現(xiàn)案例，出現(xiàn)一些“AI流浪漢進(jìn)家門”的整蠱式惡作劇演繹，最開(kāi)始源自于TikTok等海外短視頻社區(qū)，而被許多中國(guó)用戶使用，“關(guān)于我無(wú)聊用AI做了個(gè)流浪漢整蠱我老公。”

由于太過(guò)真實(shí)，在多次傳播后，甚至看不出是用AI技術(shù)生成的，很多人都信以為真，甚至當(dāng)即向民警求助，最后卻是虛驚一場(chǎng)。

這對(duì)于社會(huì)來(lái)說(shuō)，又何嘗不是浪費(fèi)公共資源呢。

接到親人求助電話時(shí)，第一反應(yīng)不再是關(guān)切，而是懷疑；看到一段驚世駭俗的新聞視頻時(shí)，第一反應(yīng)不再是震驚，而是求證。

這種普遍存在的不安全感，是社會(huì)心理層面的一次慢性中毒。

防御體系的構(gòu)建

面對(duì)洶涌而來(lái)的AI欺詐浪潮，企業(yè)和個(gè)人們并非只能坐以待斃。

最直接的對(duì)抗來(lái)自于技術(shù)本身。

解鈴還須系鈴人，想要解決技術(shù)自身的bug，就唯有通過(guò)根據(jù)技術(shù)本身建立最根本的防御模式。

AI檢測(cè)技術(shù)正在快速發(fā)展，通過(guò)分析視頻中人臉的眨眼頻率、血流引起的膚色微變化、音頻中的背景噪音一致性等微觀特征，來(lái)識(shí)別偽造內(nèi)容。

那么，或許就可以構(gòu)建數(shù)字水印和生物特征綁定技術(shù)，可以在內(nèi)容生成之初就嵌入無(wú)法篡改的“數(shù)字指紋”。

區(qū)塊鏈技術(shù)則可以為重要的數(shù)字資產(chǎn)，比如說(shuō)合同、證件等，提供可追溯、不可篡改的存證，用制度對(duì)抗技術(shù)漏洞。

其次，在技術(shù)尚未完全可靠的當(dāng)下，加固“人的防線”和“流程的防線”至關(guān)重要。

必須建立嚴(yán)格的金融交易各方面同時(shí)驗(yàn)證的制度。

領(lǐng)導(dǎo)所提出的任何涉及資金轉(zhuǎn)移的指令，無(wú)論來(lái)自郵件、電話還是視頻，都必須通過(guò)另一個(gè)獨(dú)立、安全的渠道進(jìn)行二次確認(rèn)。

自身來(lái)說(shuō)，需要提升數(shù)字時(shí)代的“媒介素養(yǎng)”。

對(duì)任何未經(jīng)證實(shí)的信息保持審慎，不輕信、不盲動(dòng)。建立家庭內(nèi)部的“安全暗號(hào)”，以應(yīng)對(duì)可能的語(yǔ)音詐騙。

我們必須要清醒地認(rèn)識(shí)到，徹底消滅AI欺騙在可預(yù)見(jiàn)的未來(lái)幾乎是不可能的。我們正在步入一個(gè)“真?zhèn)喂泊妗钡某B(tài)世界。

在這個(gè)世界里，我們需要重塑我們的認(rèn)知和生存策略。

從“被動(dòng)接受”到“主動(dòng)求證”，人們的核心素養(yǎng)應(yīng)該更新，包括“信息求證能力”。

我們將習(xí)慣于使用多個(gè)信源交叉驗(yàn)證，利用反向圖片搜索、AI檢測(cè)工具等輔助手段來(lái)判斷信息的真實(shí)性。

懷疑，將不再是一種負(fù)面情緒，而是一種必要的生存智慧。

傳統(tǒng)的、基于單一感官的信任模式已經(jīng)破敗不堪。

未來(lái)的信任，將是一種批判的眼光，長(zhǎng)期行為引導(dǎo)、去中心化的認(rèn)知、更加復(fù)雜的體系。

AI是一面鏡子，既映照出人類智慧的璀璨光芒，也折射出人性中潛在的幽暗面。欺騙技術(shù)的升級(jí)，本質(zhì)上是對(duì)我們整個(gè)社會(huì)信任體系的壓力測(cè)試。

它逼迫人們走出舒適區(qū)，去思考何為真實(shí)，如何構(gòu)建出更堅(jiān)韌的信任紐帶。

參考資料：

1.知危官方抖音賬號(hào)——0成本投毒之后，我污染了全網(wǎng)AI替我說(shuō)謊

一點(diǎn)想法（北京）旗下矩陣公眾號(hào)

點(diǎn)擊圖片即可閱讀 《中美網(wǎng)友“賬本大公開(kāi)”：原來(lái)我們都想錯(cuò)了？》 《“TikTok難民”涌入小紅書(shū)，中美網(wǎng)民開(kāi)啟民間外交》

《“病來(lái)如山倒”，造車開(kāi)始大退潮》