人工智能數據污染的特點、危害及解決之道

武丹/制圖

作者|夏燕 單宇豪

責編|薛應軍

正文共2871個字，預計閱讀需8分鐘▼

8月5日，國家安全部發文提示，人工智能（AI）的訓練數據存在良莠不齊的問題，其中不乏虛假信息、虛構內容和偏見性觀點，造成數據源污染，給AI安全帶來新的挑戰。

據介紹，通過篡改、虛構和重復等“數據投毒”行為產生的污染數據，將干擾模型在訓練階段的參數調整，削弱模型性能、降低其準確性，甚至誘發有害輸出。研究顯示，當訓練數據集中僅有0.01%的虛假文本時，模型輸出的有害內容會增加11.2%；即使是0.001%的虛假文本，其有害輸出也會相應上升7.2%。

互聯網技術打破時間與空間的限制，讓數據成為數字社會的基礎性土壤。高質量的數據能夠顯著提升模型的準確性和可靠性，而數據一旦受到污染，則可能導致模型決策失誤甚至AI系統失效，存在一定的安全隱患。近年來，在AI技術加持下，數據污染自動迭代升級不斷蔓延，給AI安全帶來了諸多挑戰。

數據污染是指數據中出現與實際數據不符的異常值，與元數據信息結構及內容對應產生扭曲與偏差的現象。數據記錄錯誤、人為篡改、數據集成不當以及來自外部的數據投毒，都是造成數據污染的主要成因。在數據污染影響下，蓬勃發展的AI呈現雙重面孔：它既是數據污染的受害者，也是數據污染的生產者。一方面，當數據用于AI訓練和輔助決策時，數據污染破壞訓練數據的完整性與真實性，進而影響模型性能的發揮，促使AI出現幻覺甚至導致崩潰。另一方面，AI導入污染數據生成的不實內容憑借細節精準的表象，通過算法傳播獲得信息主體信任達至“謬以千里”，甚至被反復引用為訓練數據形成“遞歸污染”。此時，AI從數據污染的受害者轉化成為數字環境中活躍的污染生產者，它既深受其害，更推波助瀾。

AI數據污染的特點與危害

相比網絡空間傳統的信息污染，AI數據污染更隱蔽，危害更加精準化且通過衍生與疊加效應造成持續性擴大的破壞性后果。

AI數據污染易被“視而不見”。當前，在各種生成式人工智能輔助下，圖片和視頻快速低成本批量產出，其中不乏數據已被污染的虛假信息。當人們面對AI生成的各種圖像和視頻時，基于“眼見為實”的感官本能信任，容易消解甚至完全忽視存在的數據污染的風險。例如，2025年曾一度被網民大量轉發的“云南××地遭遇嚴重洪災”的網絡視頻被網信部門證實為AI合成制假信息，這不僅誤導公眾，加劇社會恐慌，還嚴重干擾當地正常防災救災秩序。

AI推送精準化加劇數據污染風險。在智能算法推薦系統模式下，AI信息傳播能迅速識別并鎖定目標人群。當系統使用污染后的數據時，會加速形成信息繭房，將用戶封閉在錯誤或者有毒的數據環境中。在醫療等專業領域，權威知識一旦被數據污染，形成的錯誤診療建議不僅會危害患者生命，還可能有指向性地引起大規模的公共衛生危機。在城市治理新范式下，人工智能全面賦能城市高效精準治理，如果AI系統遭到污染數據侵蝕，污染風險將沿著自動化的數字脈絡蔓延，極有可能對城市關鍵信息及基礎設施正常運行造成破壞性影響。

AI數據污染擴散快、消除難。AI在圖片、音頻、視頻的多媒體形態生成中占據優勢，這意味著如果任何一個端口存在數據污染，污染就會以源頭為中心呈疊加倍速擴散之勢。同時，與此對應的數據驗證、核實和過濾難度將大幅度提升，數據清洗消耗專業資源驟然增大，污染影響消除困難重重。例如，人為導入對事件偏見性認識數據后，通過AI多媒體形態傳播形成大面積數據污染，就會持續不斷地產生偏見性的認識，持續危害國家安全和社會穩定。

當AI遇上數據污染，多維度危害就可能立體化呈現在人們眼前。它不僅侵犯數據主體權益，使其隱私泄露經濟受損，破壞人際信任加劇社會對立，導致資源錯配社會秩序混亂，還可能衍生出一系列國家安全風險。

堅持“四要”，推進AI數據污染治理

如何做好AI數據污染的治理，關鍵在于堅持發展思維，依法建章立制，重視技術標準建設，強化協同共治，真正將清潔可信的數據優勢轉化為人工智能健康發展的動能。

堅持發展思維，強化AI數據污染治理。人類歷史上每一次重大技術突破都伴隨治理挑戰。當下，工業革命帶來的環境污染在建立科學環境治理體系、完善立法監管和技術創新迭代中逐步改善，最終形成綠色可持續發展理念，人居生態環境日益改善。面對AI技術發展中的伴生物，既要認清AI數據污染的危害性，夯實安全底線重視風險防控，更要堅持發展思維，保持對AI技術賦能數據價值的信心。具體而言，治理AI數據污染并非阻礙AI技術應用，而是要以發展為導向，通過技術迭代與制度創新，積極推進可信AI技術應用，反向推動清潔高質量數據群的構建，逐步形塑面向數據治理的責任共同體意識，最終實現技術賦能與社會信任的共同提升。

治理AI數據污染要依法建章立制?！吨腥A人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律法規，為數據污染治理提供了法律框架，強調數據分類分級保護、安全風險評估與監測，以及數據處理的通用安全義務等，這為AI數據污染治理提供了根本遵循標準。AI數據污染治理，應在現有法律指引下，進一步建章立制，尤其是由改變行為結果產生匹配法律責任的傳統做法，轉向強調預防數據污染風險為主的規則設定?？筛鶕嗀I數據污染風險作出因時而變的制度安排，強化其敏捷性治理。

治理AI數據污染，要重視技術標準建設。在AI數據污染敏捷性治理中，要加強技術標準建設，以防范數據污染風險。實踐中，國家市場監督管理總局、國家標準化管理委員會已發布了《網絡安全技術 生成式人工智能數據標注安全規范》（GB/T 45674-2025）、《網絡安全技術 生成式人工智能預訓練和優化訓練數據安全規范》（GB/T 45652-2025）、《網絡安全技術 生成式人工智能服務安全基本要求》（GB/T 45654—2025）三項國家技術標準，將在2025年11月1日正式實施。這些技術標準對數據標注、訓練數據安全以及數據通用安全等作了明確規定，強調通過增強AI數據來源的評估、核驗及數據來源多樣性等方式阻斷數據污染傳播，保障人工智能數據安全。

AI數據污染治理，要強化協同共治。AI數據污染涉及個人數據權益保障、人工智能產品效能以及國家人工智能安全發展等多維價值，構建不同主體權責明晰的協同式治理機制勢在必行。在個體層面，數據權屬主體應有權通過知情同意方式查核與個體有關的數據污染并加以更正，在數據污染的潛伏期發揮個體矯正的作用。人工智能的數據處理者，不僅應當履行數據安全保障義務，在數據污染發生時要智能精準地干預，還應為數據權屬主體提供數據查核與更正的正確途徑，并與數據監管者共享數據污染處置信息。負有質量保障義務的數據監管者應當在事前、事中和事后均有效參與數據污染治理進程，與數據權屬主體和數據處理者進行多方聯動，強化數據安全。確立動態交互、協同響應的治理模式，有助于實現AI數據污染風險的未然防控，構建更具韌性的數字安全生態系統。

將“發展思維、建章立制、技術標準、協同共治”四維環環相扣，構建立體化的AI數據污染治理框架，有助于化解AI數據污染隱蔽性高、風險擴散快、后果消除難等問題，實現AI數據污染系統治理，最終塑造安全、可信、負責的人工智能發展生態。

（作者單位：重慶郵電大學網絡法治研究中心）