AI造謠教師因猥褻入獄10年！有人發起AI“防搜”反擊戰，責任究竟誰來擔

你有嘗試通過AI搜索自己的名字嗎？

對于北京一所知名國際高中的音樂老師小河（化名）來說，這個操作觸發了“潘多拉魔盒”。日前，他向解放日報·上觀新聞記者講述了自己的遭遇：在AI的搜索結果里，他與一起已宣判的猥褻案件關聯在了一起。“AI準確地提到了我的職務和我所在的學校，但這完全是一個莫須有的罪名，AI的回答損害了我作為教師的公眾形象。萬一哪天被學生家長看到，我要付出大量解釋成本，更可能承受廣泛的潛在偏見。”

當AI搜索結果侵犯了個人名譽，如何厘清責任邊界？有的人說，不能苛求新技術的“絕對零錯誤”。也有聲音認為，技術創新需要守住人的基本權利紅線。面對AI的失序風險，越來越多的人認為，使用AI搜索技術的相關企業平臺不能置身事外，應主動承擔起生成內容的治理義務，為用戶采取切實有效的保障舉措。

AI造謠損傷個人聲譽

“按AI的說法我現在應該在監獄里。我知道AI有幻覺，但沒想到會發生在自己身上，且這么離譜。”發現問題后，小河曾聯系AI服務提供商上海某社交平臺的客服，希望能及時更改生成結果，并將自己的相關證明發送到了平臺官方郵箱。他還向上海市民服務熱線12345進一步反映，請求相關部門的協調。歷經一年，AI生成的虛假信息網頁鏈接才終于失效。

小河回憶，第一時間發現AI造謠的并非他本人。2025年1月某個晚間，他的同事在社交平臺瀏覽相關帖文，發現某帖文下方出現了一個“猜你想搜”的詞條，后綴并排出現了學校名字、小河真名。同事出于好奇點擊了鏈接。頁面隨后跳轉到了一個置頂AI答案的搜索結果。同事大吃一驚，迅速截圖轉發給小河，詢問他是怎么一回事。

小河看到，AI信誓旦旦地描述了一起小河在其學校發生的“事件”，且聲稱是“目前公開信息的梳理和總結”。AI搜索結果顯示，2024年6月小河因涉嫌猥褻學生，于2024年6月被刑事拘留，并最終被判處有期徒刑10年。同時，AI梳理了一條事件發展時間線：2024年6月事件爆發，2024年7月當地相關管理部門發布通報，小河被開除黨籍、開除公職。2024年8月，法院一審判處小河有期徒刑10年。2024年9月，判決生效，小河被依法送交監獄執行刑罰。還附上了學校對其進行停職處理和通報。

2025年1月，小河首次發現某平臺內的AI搜索結果顯示他因涉嫌猥褻學生被判處有期徒刑10年。（受訪者供圖）

小河在該平臺嘗試搜索自己的名字，發現生成結果與同事看到的一樣，并且查看不到生成結果的來源依據，僅僅是“AI為你回答”。在公開平臺搜索同名同姓的人士，沒有找到可以對應的相關案件。學校也不曾發生過類似丑聞和案件。隨后，他發現AI衍生出了關鍵詞“事件后續”鏈接，生成了新的版本。AI提到，小河存在“體罰”或“辱罵學生”的行為，有模有樣地提到事件的來龍去脈，并有相關視頻流傳，且事件在網上持續發酵，成為熱點案例。他將AI生成結果的過程進行錄屏，整理網頁鏈接，向學校第一時間報備，主動證明自己的清白。

AI衍生出的新關鍵詞“事件后續”，生成了新的版本，提到他存在“體罰”或“辱罵學生”的行為。（受訪者供圖）

“到底之前有多少人看到過這些虛假的生成結果？有多少人受到這些答案的影響？”如今，這些尖銳的虛假“指控”已無法再被搜索到，但他仍感到后怕。讓小河百思不得其解的是，他一直以網絡昵稱在社交平臺分享教學、演出的內容，至多出現姓氏，公開的犯罪案件中也沒有與其有同名同姓的情況，AI為何會如此杜撰？

發防搜帖就能對抗AI嗎？

“我在賬號中發了澄清帖和防搜聲明，但作用都有限，AI搜索結果到現在仍會關聯虛假負面信息。”小兆（化名）是一名“00后”二次元專職畫師。她經常用同一個網絡昵稱在各個社交平臺發布自己的原創作品，由此吸引潛在客戶，目前已積累數千個粉絲。去年，她在某社交平臺搜索自己的昵稱，想看看自己的“風評”，然而，置頂的AI搜索答案中提到她存在“爭議事件中的負面曝光”，稱她在過去的一起交易中存在跑單、騙稿行為，需要“避雷”。

“我們畫師基本是靠口碑接單，客戶在下單前一定會通過社交媒體或行業平臺進行背調，由此參考是否合作。這樣的評價對我影響很大。”小兆最初的感受是驚訝，隨后點開了AI引用來源進行分析。其中有一張截圖，來自另一個社交平臺，內容是她與一位網友的對話。他們討論了另一位畫師存在騙稿的失當行為。AI生成的結果反而將她關聯、塑造成失當行為的當事人。小兆意識到，AI可以跨平臺對同名用戶的評論內容進行截圖抓取，且在處理文本信息時無法準確分辨賬號名字與評論內容的邏輯關系。

2025年4月，二次元專職畫師小兆發現某社交平臺AI搜索結果生成了虛假負面內容。（受訪者供圖）

小兆發現，該AI抓取了她在另一平臺發表的評論，錯誤地理解了文本內容。（受訪者供圖）

許多網友也發現了AI搜索存在類似缺陷，開始分享五花八門的“AI防搜”經驗。比如，在賬號簡介寫一句“賬號已注銷”，可以減少AI生成的具體內容。又比如，將昵稱改成食物類等更為大眾的稱呼，AI生成的內容就只會出現常規詞條解釋。小兆則不想更改昵稱，她擔心粉絲不認得她而“取關”。她找到了他人分享的一篇“防搜說明”模板，并在賬號中發布：本人賬號（ID: XX）在該平臺發布、上傳及曾刪除的全部內容（包含本聲明發布前后的所有內容，尤其是商業產品、文藝作品、音視頻作品等），均不授權和許可XX平臺及所屬公司及其關聯公司、股權持有人使用。禁止人工智能相關處理（包括但不限于機器學習、數據分析、自動生成摘要等）、內容改編、二次創作或跨平臺轉載、商業推廣及營利性活動、整合至其他產品或服務（含已知及未來開發的技術形式）、用戶畫像構建及行為分析。

這樣的聲明會“震懾”AI嗎？小兆搖搖頭，AI在不久后確實新增了一部分關于這些澄清舉動的內容，但描述十分模糊，口吻中性，仍關聯此前生成的虛假信息。“好像我的職業生涯真的有‘瓜’一樣。”平臺亦沒有對應的投訴通道，小兆只能無奈地在右下角的“點贊”和“沒用”中選擇后者。

“網友發布的AI防搜聲明，有一定法律效力，能有效固定用戶權利主張。但并非‘絕對有效’，最終能否對抗平臺還要取決于用戶協議約定、法律強制性規定及舉證情況。”一名業內人士告訴記者，不少社交平臺、大模型企業在用戶使用協議中就要求用戶讓渡部分個人信息的使用權利，因此類似的聲明難以直接阻斷平臺合規的數據使用，需依靠監管部門推動平臺完善隱私政策，保障用戶選擇權。

網友分享的AI防搜方法。

身為執業律師的黃貴耕選擇了一種更為直接有效的救濟方式——起訴。2025年11月，黃貴耕以AI惡意生成虛假負面信息，嚴重損害其名譽繼而摧毀律師執業信譽的名義起訴相關平臺，索賠各項損失共計109.104萬元。今年，北京市海淀區法院已依法受理該案并完成第一次開庭，目前案件仍在審理中。黃貴耕告訴記者，涉事的主流搜索引擎置頂的AI搜索結果通過無中生有、張冠李戴、憑空捏造等手法虛構了諸多罪名。“這些虛假信息對律師職業信譽是毀滅性的打擊，直接導致我的委托人及社會公眾對我存在違法犯罪行為的嚴重誤解。”

2025年5月，黃貴耕收到案件委托人親屬發來某搜索引擎置頂的AI搜索結果，顯示有大量負面虛假信息。（受訪者供圖）

AI名譽侵權需多方共治

今年3月，為了解當下生成式AI針對個人信息搜索分析的傾向性和披露程度，記者使用五家國內外AI大模型平臺進行了大致測試。記者發現，多數AI都會根據用戶輸入的實名信息直接進行搜索整合，受不同平臺的文本數據影響，所呈現的精準度差別很大，甚至存在不顯示引用來源的情況。所有平臺已在界面提醒“AI生成內容僅供參考”，但都不會設置搜索邊界，也不會提醒用戶注意保護個人隱私、不要過度搜索個人信息。

根據《生成式人工智能服務管理暫行辦法》第四條、第九條規定，尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。多位法律界人士認為，AI服務平臺的開發與運營者具備民事主體資格，應當承擔審核與過濾侵權信息的義務。

一名從事國內AI搜索業務的業內人士告訴記者，大模型的AI幻覺盡管現階段在技術上無法完全避免，但開發運營者在增強生成內容準確性和用戶體驗上有較大提高空間。尤其是上述黃貴耕案例中，AI存在篡改權威來源原始文本的行為，說明相應的模型總結能力較低。目前，國內一些AI開發團隊設立了專門的隱私合規專項小組。用戶提交個人證件及證據后，客服確認生成內容對用戶本人造成侵權，就會將投訴交由摘要引用、生成環節等業務部門判斷錯誤源頭，對涉及個人隱私信息的搜索內容進行人工干預處理，原則上幾個工作日內就能處理好錯誤的數據，用戶無法再搜到相應內容。

復旦大學計算與智能創新學院教授張奇接受記者采訪時表示，生成式AI大模型本質是個概率性模型，從技術上來講不可避免地存在推斷錯誤的情況。即便采取技術手段防控和緩解幻覺，對于平臺來說，類似張冠李戴、無中生有的錯誤無法做到整體性的解決。只能人工一對一地替換數據、反復測試，才能修正生成錯誤的情況，因此對于平臺來說修復的工作量很大，很難有動力去主動作為。

在上述案例中，律師或許可以借助媒體的力量在公開渠道中灌入大量自己的維權內容，從而對沖AI生成的虛假信息。但對于普通人而言，僅僅是在平臺發一個澄清帖、聲明帖，未在公開網頁中出現，左右不了AI生成的結果。這不僅是源于數據的權重較低，更是源于對AI算法邏輯的不了解。

對此，張奇認為，相關監管部門可將指導動作前置到AI研發環節，在數據標注、模型架構、訓練方法等關鍵節點，引導相關企業平臺注重個人信息整合搜索的合規底線、強化信源質量核驗，同時設立投訴反饋入口，建立快速響應受理處置機制。在出現用戶個人名譽侵權等風險隱患后，監管部門可督促企業平臺及時完善技術防控體系，加強跟蹤問效，從源頭遏制技術漏洞。“新技術帶來的新問題，要秉持‘在發展中規范、在規范中發展’的理念去解決，只有全社會攜起手來，AI相關產業才能更健康地發展。”

來源 | 解放日報

作者 | 車佳楠