外刊速遞 | 《新科學(xué)家》：警惕人工智能生成的低質(zhì)內(nèi)容污染

2025年無(wú)疑是人工智能迅猛發(fā)展的一年，但這給人們帶來(lái)的并不都是益處。美國(guó)專欄作家安娜莉·紐伊茨（Annalee Newitz）在《新科學(xué)家》刊文指出，人工智能生成的內(nèi)容并不都是真實(shí)可靠的，若不采取措施遏制，我們的信息流將被人工智能生成的“泔水”淹沒(méi)。

原文 ：《 <新科學(xué)家> ：警惕人工智能生成的低質(zhì)內(nèi)容污染》

編譯 |李彥文

圖片 |網(wǎng)絡(luò)

2025年是人工智能發(fā)展史上的飛躍之年，但也被人們批評(píng)為“泔水之年”（year of slop）。“泔水”是一個(gè)流行語(yǔ)，指的是人工智能生成的漏洞百出、光怪陸離的內(nèi)容，這些內(nèi)容幾乎已經(jīng)腐蝕了互聯(lián)網(wǎng)上的每個(gè)平臺(tái)，也在腐蝕我們的思想。

過(guò)去的幾年里，人工智能領(lǐng)域已經(jīng)積累了足夠多的“泔水”，現(xiàn)在，科學(xué)家們可以測(cè)量其對(duì)人們的影響了。麻省理工學(xué)院的研究人員發(fā)現(xiàn)，使用大型語(yǔ)言模型（LLM，比如ChatGPT背后的語(yǔ)言模型）來(lái)寫文章的人，其大腦活動(dòng)要比不使用的人少得多。此外，聊天機(jī)器人也會(huì)對(duì)我們的心理健康產(chǎn)生潛在的不良影響。有報(bào)道稱，某些聊天機(jī)器人會(huì)鼓勵(lì)人們相信自己的幻想或陰謀論，并可能誘導(dǎo)自殘，從而引發(fā)或加重精神疾病。

深度造假也已成為常態(tài)，使得網(wǎng)上內(nèi)容的真實(shí)性無(wú)法被核實(shí)。微軟的一項(xiàng)研究顯示，人們只能在62%的情況下識(shí)別出人工智能生成的視頻。現(xiàn)在，利用人工智能生成足以亂真的視頻變得輕而易舉。OpenAI推出了應(yīng)用程序Sora，這個(gè)文生視頻大模型幾乎完全由人工智能生成內(nèi)容，只有一處例外——它會(huì)掃描用戶面部信息，將真人形象嵌入其生成的虛構(gòu)場(chǎng)景中。針對(duì)這一問(wèn)題，OpenAI的創(chuàng)始人薩姆·奧爾特曼（Sam Altman）只是輕描淡寫地回答，他允許人們利用他本人的形象進(jìn)行《斯基比迪馬桶人》（Skibidi Toilet）風(fēng)格的視頻制作，由此對(duì)可能產(chǎn)生的爭(zhēng)議進(jìn)行輕松化解。

人工智能生成的“泔水”不僅會(huì)給我們的生活與工作造成影響，而且會(huì)對(duì)我們的歷史造成損害。我們將事物付諸文字或影像記錄的重要原因之一，正是想要留下特定時(shí)代的人類活動(dòng)記錄。當(dāng)我寫作時(shí)，我希望為未來(lái)的人創(chuàng)造記錄，讓五千年后的人們能窺見我們真實(shí)的面貌，包括所有的混亂與不完美。但現(xiàn)在，當(dāng)撰寫考古學(xué)相關(guān)書籍時(shí)，我常常擔(dān)憂未來(lái)的歷史學(xué)家在回顧這個(gè)時(shí)代的媒體資料時(shí)，會(huì)觸碰到內(nèi)容中的“污泥層”——那些由人工智能生成的、光鮮卻充滿謊言的信息。

人工智能聊天機(jī)器人只會(huì)反芻沒(méi)有意義的話，它可以生成內(nèi)容，但無(wú)法取代人們的真實(shí)記憶。從歷史視角來(lái)看，讓由人工智能生成的內(nèi)容充斥信息流，在某種程度上比鼓動(dòng)性宣傳更可怕。至少，鼓動(dòng)性宣傳是由人類懷著特定目的進(jìn)行的，能揭示社會(huì)存在的政治生態(tài)與問(wèn)題癥結(jié)。而“泔水”正在將我們從自身的歷史記錄中抹除，其背后的意圖比人為宣傳更難以捉摸。

當(dāng)下，由“Z世代”（1990年代末至2010年代初出生的人）掀起的關(guān)于“6-7”的熱潮滲入主流文化，“6-7”也被Dictionary.com評(píng)為2025年度詞匯。這或許是人們對(duì)文化“泔水化”的一種抵抗手段——?jiǎng)?chuàng)造毫無(wú)意義的詞語(yǔ)，頗具黑色幽默色彩。當(dāng)你對(duì)某個(gè)問(wèn)題沒(méi)有確切答案時(shí)，甚至是在沒(méi)有任何理由的情況下，你都可以說(shuō)“6-7”。例如，未來(lái)會(huì)怎樣？6-7。人工智能“泔水”會(huì)對(duì)藝術(shù)產(chǎn)生怎樣的影響？6-7。我們將如何在未來(lái)極具不確定性的世界中穿行？6-7。

我很想看看人工智能公司能否根據(jù)“6-7”生成內(nèi)容，但它們做不到，因?yàn)槿祟悓⒂肋h(yuǎn)領(lǐng)先于“泔水”一步，不斷創(chuàng)造出只有人類才能真正欣賞的新形式。這種專屬于人與人之間的默契，或許是我們得以在人工智能時(shí)代，依然保留“人之為人”特質(zhì)的一個(gè)主要原因。

文章為社會(huì)科學(xué)報(bào)“思想工坊”融媒體原創(chuàng)出品，原載于社會(huì)科學(xué)報(bào)第1984期第7版，未經(jīng)允許禁止轉(zhuǎn)載，文中內(nèi)容僅代表作者觀點(diǎn)，不代表本報(bào)立場(chǎng)。

本期責(zé)編：程鑫云

《社會(huì)科學(xué)報(bào)》2026年征訂

點(diǎn)擊下方圖片網(wǎng)上訂報(bào)↓↓↓