“門口有個流浪漢,說認識你,我讓他進來了。” 當 TikTok 博主喬?梅爾(Joe Mele)把 AI 生成的流浪漢圖像發給父親時,他沒料到這個 “玩笑” 會引發連鎖反應,父親連續撥打 7 通未接電話,在看到流浪漢 “用自己牙刷刷牙”“躺床上休息” 的后續圖像后徹底崩潰。
這條視頻最終獲得超 1040 萬次觀看,更意外點燃了全球范圍內的 AI 整蠱狂歡。從國內青少年用 AI 生成流浪漢闖家圖像嚇父母,到上班族制作 “流浪漢進公司” 惡搞同事,看似無傷大雅的娛樂背后,正浮現出技術濫用的深層危機。
![]()
AI流浪漢如何風靡全球
這場 AI 整蠱浪潮的起點清晰可溯。最近Ticktok創作者喬?梅爾使用谷歌 Gemini AI,僅用簡單指令就在自家室內照片中添加了流浪漢形象,一系列 “惡作劇” 互動視頻迅速引爆 TikTok。谷歌新推出的 Nano Banana AI 工具將創作流程簡化至 “一鍵生成”, 只需上傳一張環境照片,輸入 “添加無家可歸者” 的文字指令,AI 就能在幾秒內生成以假亂真的圖像。
這種低門檻創作模式迅速跨越國界,在國內社交平臺形成復制熱潮。抖音上的博主將整蠱升級為視頻形式,生成流浪漢用父親毛巾擦臉、在家里休息的動態內容,盡管視頻中出現 “四換人臉、穿插外國人” 的明顯破綻,但仍成功引發長輩恐慌。更有網友將場景轉移到職場,用 AI 制作 “流浪漢在辦公區溜達” 的圖片測試同事反應。
![]()
截至到10 月,此類 “AI 流浪漢整蠱” 視頻在抖音、快手等平臺的相關話題播放量累計突破 5 億次,大量 “一鍵生成流浪漢特效” 教程點贊量超 40 萬,評論區滿是 “求教程”“已試過,把父母嚇著了的” 的互動留言。
這種傳播熱度并非個例,從 TikTok 上爆火的 “后院蹦床萌兔” 偽視頻,到國內被官方賬號誤轉的 “監控視角狗狗救小孩” 短片,AI 生成內容正憑借 “真實感 + 情緒化” 的雙重特質,成為新的流量密碼。
![]()
01
濫用AI生成視頻造成法律與倫理雙重傷害
當用戶沉浸在整蠱的快感中時,法律風險已悄然滋生。今年10 月,四川會理市公安局接到居民王女士報警,稱 “流浪漢闖入家中危及獨自在家的孩子”,民警緊急出警后發現,竟是孩子用 AI 工具制作的惡作劇。這種情況并非個例,多地警方反映,類似虛假報警已占用大量警力資源。
知名律師周兆成指出,此類行為已觸碰法律紅線。根據《中華人民共和國治安管理處罰法》,明知可能引發誤報仍故意傳播 AI 偽信息,可被處 5-10 日拘留及 500 元罰款;若視頻擴散引發社會恐慌,則可能觸犯《刑法》“編造虛假信息罪”,最高可判 5 年以上有期徒刑。
2024 年南京玄武區的 “AI 換臉盜刷案” 更敲響警鐘:犯罪嫌疑人符某利用 AI 生成動態人臉視頻,突破 23 名被害人的支付賬戶人臉識別防線,最終以侵犯公民個人信息罪、信用卡詐騙罪數罪并罰,獲刑 4 年 6 個月。
![]()
比法律風險更隱蔽的是倫理層面的侵蝕。西南政法大學校長林維在中歐人權研討會上強調:“技術的最終目的是服務于人,而不是削弱個體的主權與自由。”AI 整蠱狂歡中,最突出的倫理問題是對弱勢群體的 “去人格化” 傷害 ,將流浪者形象異化為娛樂素材,實質是強化 “弱勢群體 = 危險符號” 的刻板印象,削弱公眾對社會救助議題的同理心。
這種傷害正在蔓延,例如網絡上出現 AI 仿冒奧運冠軍全紅嬋等聲音賣土雞蛋的亂象,歷史博主用 AI 生成 “偽歷史” 視頻歪曲史實,甚至有營銷號制作 “災難現場” 虛假視頻博取關注。
![]()
更令人擔憂的是技術對認知體系的沖擊。根據CNNIC的 數據顯示,截至 2024 年底我國生成式 AI 用戶達 2.49 億人,有92% 的創作者都在使用 AI 工具,越來越多人陷入認知困惑:“過去覺得識別不了 AI 假視頻是老年人的事,年輕一代發現自己也常被騙,有些時候根本無法分清是否是AI生成視頻。”
02
AI偽視頻泛濫原因
技術易得性與偏好算法
生成式 AI 的 “平民化” 進程正在加速,截至 2024 年底,我國已有 302 款生成式 AI 服務完成備案,核心產業規模近 6000 億元,從豆包到百度文心一格,各類工具已實現 “零門檻使用”。這種易得性讓青少年成為主要使用者,而他們對技術風險的認知不足,進一步助推了濫用行為。
平臺算法的商業邏輯則起到了 “放大器” 作用。短視頻平臺的推薦機制對 “情緒化內容” 存在天然偏好,AI 整蠱視頻中 “父母驚慌失措”“同事暴怒” 等畫面,恰好符合 “高互動率” 的算法指標,從而獲得流量傾斜。這種機制形成惡性循環,越刺激的內容越易傳播,創作者越傾向于制作此類內容,最終導致濫用行為常態化。
![]()
同時認知鴻溝的存在讓危機進一步加劇。中老年群體成為 AI 偽信息的主要受害者,他們既缺乏對 AI 技術的基本認知,又習慣以 “視覺真實” 判斷信息真偽,這使得他們有時候在面對 “帶監控時間戳” 的 AI 視頻時,幾乎沒有辨別能力。而年輕人群體雖熟悉技術,卻常因 “追求趣味”“博取關注” 的心態忽視風險,形成 “制作者” 與 “受害者” 的代際錯位。
03
如何辨別AI生成視頻
面對 AI 濫用的挑戰,掌握基礎的辨別技巧至關重要。AI 生成內容即便再逼真,仍會留下技術痕跡,例如圖像中常出現手指數量異常、光影與環境脫節等問題,視頻則容易出現 “穿模”“物體突變” 等破綻。當遇到可疑內容時,可通過 “反向圖片搜索”“檢查元數據” 等方式驗證。
![]()
平臺作為內容傳播的關鍵環節,亟需承擔起主體責任。目前,YouTube 已推出 AI 生成內容標注功能,要求創作者明確標識虛擬內容;
目前許多平臺開啟內容標注功能,要求創作者明確標識虛擬內容,例如抖音、快手等平臺也在試點 “AI 內容溯源碼”,用戶掃碼即可查看內容生成信息。并優化算法推薦邏輯,減少情緒化虛假內容的流量傾斜。
長遠來看,認知升級才是根本解決方案。2025 年中歐人權研討會達成的共識更具啟示:“算法不能替代尊嚴,發展不能為不平等辯護。” 這要求我們在擁抱技術進步的同時,始終堅守 “以人為本” 的底線,當 AI 工具被用于尊重與創造,它能成為連接古今的橋梁;當被用于戲謔與欺騙,便會淪為撕裂社會的利器。
在這個流浪漢的整蠱視頻下,有一條評論引人深思:“第一次看覺得好笑,第二次想到我媽媽也會被騙,突然笑不出來了。” 技術的溫度從來不是由參數決定的,而是由使用者的選擇定義的。當 AI 流浪者的形象不再被用于整蠱,當虛擬內容都帶著可追溯的標識,技術才能真正成為服務人類的工具,而非制造恐慌的 “狼”。這既需要法律的剛性約束,更需要每個使用者的理性自覺。
![]()
微信訂閱
歡迎郵局訂閱2026年《電腦報》
訂閱代號:77-19
全年訂價:400.00元 零售單價:8元
郵局服務熱線:11185
編輯|張毅
主編|黎坤
總編輯|吳新
爆料聯系:cpcfan1874(微信)
壹零社:用圖文、視頻記錄科技互聯網新鮮事、電商生活、云計算、ICT領域、消費電子,商業故事。《中國知網》每周全文收錄;中國科技報刊100強;2021年微博百萬粉絲俱樂部成員;2022年抖音優質科技內容創作者
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.