看完妻子發來的照片，丈夫嚇得直接報警！專家：涉嫌違法！

圖片來源：網絡

本文為《方圓》雜志原創稿件

未經授權，禁止轉載

近日，安徽一女子

用AI工具生成高度逼真的

“流浪漢在餐桌吃飯”等圖片發給老公

并說“他說要去你的床上躺著”

以測試其反應

沒想到丈夫信以為真，當即報警求助

類似“AI整蠱測試真心”

引起的鬧劇已在多地出現

那么，在此類事件中

整蠱者可能觸碰哪些法律紅線？

選擇用如此方式去“測試”伴侶

其背后隱藏著怎樣的心理動機？

在“AI時代”即將全面到來的今天

我們應該如何提升公眾的

“數字素養”和“科技倫理”意識？

整蠱行為會帶來多重法律風險

“如果利用AI技術惡意制作并傳播虛假恐怖圖片，進而嚴重擾亂社會秩序的，可能涉嫌?編造、故意傳播虛假恐怖信息罪??！北本┦写蟮勒蓭熓聞账匣锶隧n鵬律師介紹說?！吨腥A人民共和國刑法》第二百九十一條規定，投放虛假的爆炸性、毒害性、放射性、傳染病病原體等物質，或者編造爆炸威脅、生化威脅、放射威脅等恐怖信息，或者明知是編造的恐怖信息而故意傳播，嚴重擾亂社會秩序的，處五年以下有期徒刑、拘役或者管制；造成嚴重后果的，處五年以上有期徒刑。編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑。若有關行為未達到刑事立案標準，依據《中華人民共和國治安管理處罰法》第二十九條規定，可能面臨被行政拘留?并處罰款?。

在此事件中，女子老公因為恐慌第一時間報警，民警出警后發現是虛驚一場，這種情況下，其老公行為是否涉嫌“報假警”？如何認定？

韓鵬認為，“報假警”的核心認定標準是“主觀故意+捏造虛假警情”，二者缺一不可。從動機上看，女子家人主觀上沒有“報假警”的故意，其報警行為不符合上述認定的核心要件。但發送圖片者主觀上存在“間接故意”，明知可能引發報警仍實施該行為，且客觀上實施了“制造虛假警情源頭”的行為，與報警結果之間存在因果關系，其行為在一定程度上擾亂了公共秩序，可能面臨治安處罰，嚴重的甚至會被追究刑事責任，具體后果會根據情節輕重進行劃分，需要綜合考量行為人的主觀惡意、公共資源浪費、傳播范圍、社會影響等因素，最終實現處罰與行為危害性相匹配。

“低門檻”為“濫用”埋下了隱患

一個基于玩笑的整蠱行為，一旦失控，就可能升級為對社會治理、法律法規、公共信任等多層面的挑戰。而讓人擔憂的是，當前生成此類以假亂真圖片的AI技術門檻較低。記者在某AI軟件里傳輸一張照片，再輸入“請在孩子對面生成一個流浪漢”的指令，不到2秒鐘，一張讓父母看完后感到恐慌的AI照片便生成了。

圖片來源：記者利用某AI軟件生成的“流浪漢闖入家中”圖。

而與“低門檻”相矛盾的是，在司法實踐中，要順利實現對一些惡意生成內容的取證存在較大難度。“主要是因為技術黑箱導致的溯源難?！表n鵬說，“由于生成式人工智能的算法邏輯不透明，模型迭代頻繁，實踐中有時難以直接還原數據生成路徑。AI生成內容還可以通過技術手段規避傳統檢測，且缺乏統一的生成標記標準，部分惡意生成者還會刻意抹除Exif信息、篡改哈希值等，進而導致溯源鏈條斷裂，而傳統取證手段很難保證數據完整性、連續性，這些都可能給取證工作帶來挑戰?！?/p>

韓鵬介紹，今年全國兩會期間，全國人大代表、上海社會科學院黨委書記權衡等代表提出關于制定人工智能法的議案，建議發揮立法的引領、推動作用，制定全面系統的人工智能法，推進新時代強國建設和中國式現代化。議案建議，人工智能立法應將重點放在多個方面。其中一條提出，在社會影響與倫理考量方面，應要求對人工智能技術的社會影響進行評估，制定人工智能技術的倫理規范，明確技術使用的道德邊界和行為準則。韓鵬建議，對于目前面臨的“規則分散、責任模糊、處罰失衡、技術適配不足”等問題，仍需要進一步制定細則、完善責任劃分與處罰梯度、建立相應的溯源制度，同時需持續強化多部門協同監管等措施，構建“事前預防-事中阻斷-事后追責”的全鏈條治理體系。

“當前，AI‘微恐慌’事件的危害情節普遍比較輕，但這在某種程度上已反映出AI技術濫用帶來的諸多問題，這也對立法技術和立法質量提出更高要求。相關立法需要為技術創新預留合理空間，進而實現安全與發展的良性互動。技術本身并無善惡，其對社會的影響取決于技術發展的方向與邊界。AI‘微恐慌’事件并非技術進步的必然結果，而是技術濫用與治理滯后共同作用下的產物。技術界必須跳出唯技術論的誤區，將倫理責任置于創新之上，通過可溯源的標識體系、高精準的鑒偽技術、透明化的算法邏輯和剛性的倫理約束，構建負責任創新的生態。”韓鵬建議。

類似事件頻發會加劇社會“信任危機”

法律紅線清晰可見，情感創傷難以彌合。這類事件的跟風與泛濫，還會加劇社會的“信任危機”，導致真正發生的緊急事件被忽視，從而削弱社會互助的基礎。

中國政法大學犯罪心理學博士、廣州商學院法律心理研究院副教授張蔚認為，當網絡上充斥著各種真假難辨的緊急事件時，公眾會逐漸變得麻木，對刺激的反應閾值會提高，同情心和警惕心會被消耗。待到未來某個真實的安全威脅圖片或視頻被發布時，人們的第一反應可能是“AI生成的吧”或者“肯定又是哪個博主弄出來引流的”。這種懷疑和延遲，可能會讓真正需要幫助的人錯過最佳獲得幫助的時機。

同時值得關注的是，比起社會“信任危機”的產生，“信任崩塌”很可能最先發生在親密關系里。

“做這種測試的人，潛意識的動機可能是想測試伴侶的反應，比如說‘會不會擔心我’‘是不是愛我’之類，但這是一種極其不健康且具有破壞性的情感確認方式。實施者無法真正站在伴侶的角度去思考感受，體現了對伴侶情感邊界的不尊重和共情能力的不足。如果這個人的動機是想用消費另一半來獲取流量或者關注，那就存在將伴侶工具化的可能?！睆埼堤嵝眩斑@種行為可能會導致受騙者對家庭環境安全感以及對伴侶信任感產生根本性的動搖。尤其是當受騙者發現自己最真實的恐懼反應被對方當成笑話觀看、錄制甚至公之于眾時，會感到巨大的羞辱和背叛，覺得自己的感受不被尊重，從而產生情感上的孤立和羞辱感。”

一次引發熱議的整蠱事件，背后反映的是AI浪潮下公眾數字素養和科技倫理意識的不足。這不能僅靠“單向灌輸”，而是需要推動公眾從“技術的被動使用者”向“技術的主動掌控者”的轉變?！巴ㄟ^分層教育讓AI知識可及，通過場景實踐讓科技倫理意識落地，通過技術生態圈的約束讓責任有保障，讓更多人在享受AI便利的同時，守住倫理底線，負責任地使用這一強大工具，使科技更好增進人類福祉、更好促進社會進步?！表n鵬建議。

這段AI整蠱引發的鬧劇，像一面多棱鏡，折射出技術狂歡背后亟待正視的倫理困境。當玩笑越過邊界，它便不再是幽默，而是可能撕裂信任、浪費公共資源的利刃。在擁抱科技的同時，我們必須守住倫理底線，讓工具服務于人性的溫暖，而非測試人性的籌碼。

編輯丨黃莎設計丨劉巖

記者丨肖玲燕

往期精彩

點擊圖片

購買《方圓》雜志

好看的人都點了在看