“AI換臉”之禍

“一個案例勝過一打文件。”為充分發揮典型案例示范指導、規范引領和價值導向作用，福建省高級人民法院和福建省廣播影視集團聯合打造《熱案大家談》節目，重點圍繞群眾關切、企業關注、行業關心的重點熱點案件，采取新聞事件回顧和專家學者訪談的方式，開展故事性、實用性、服務性兼具的以案釋法、融情議理，以事關民生的小案例展現司法為民大作為，營造尊法學法守法用法的濃厚氛圍。

節目以每兩周一期的頻次，于周五晚19：30在福建電視臺新聞頻道《現場》欄目播出。福建高院新媒體平臺同步推送，歡迎關注。

第三十一期

讓我們一起來關注

《“AI換臉”之禍》

隨著AI換臉技術的迭代升級，人臉識別這道曾被視為 “安全屏障” 的防線，正面臨前所未有的挑戰。當我們刷臉支付、刷臉登錄時，是否想過這張獨一無二的生物ID，也可能被輕易“盜用”？泉州市鯉城區就發生了一起利用“AI換臉”技術，突破平臺人臉識別系統的新型犯罪案件。這起案件背后隱藏著怎樣的技術和法律風險？跟著鏡頭，一起去一探究竟。

泉州的小伙傅某

初中畢業就迷上了網絡

大部分時間都泡在網上

是一名資深網絡“玩家”

對AI、黑客技術這些新鮮玩意兒

特別感興趣

然而，技術的“酷”很快變了味

隨著傅某在一些網絡社群里小有名氣

開始有陌生人主動找上門來

請他“幫個小忙”

2023年，隨著AI技術的不斷升級

傅某在網上發現了一條“生財之道”

利用“AI換臉”技術

幫助他人繞過平臺的人臉驗證

傅某說，剛開始他的“客戶”還僅限于

需要大量賬號的短視頻從業者

因為平臺限制一人一號

還需要人臉識別

傅某的技術正好“解決”了這個“難題”

傅某利用自己的技術

先是在未經他人同意的情況下

擅自使用他人照片

通過軟件技術手段

幫助客戶成功注冊某平臺企業員工賬號

兩千余個

獲利人民幣七千元

此后，傅某的技術“口碑”在灰色地帶傳開

業務也隨之升級，有人找上門

希望他能突破某酒類申購平臺的

人臉識別門檻

盡管多了幾道程序

但對于傅某來說

并不是什么難事

就這樣，短短一個多月的時間里

他利用AI換臉視頻幫助客戶

通過相關微信小程序的人臉驗證

超過90單

并從中獲利人民幣2萬元

直到東窗事發

程序異常引起了銷售商的警覺

警方隨即介入調查

通過技術手段溯源

很快就鎖定了傅某

2023年8月，傅某被公安機關抓獲

同年被泉州市鯉城區檢察院以

“非法控制計算機信息系統罪”提起公訴

2023年12月，泉州市鯉城區人民法院

公開開庭審理了這起案件

此案的焦點在于：

法律應如何定性這種

利用AI技術“欺騙”系統的行為？

傅某的行為

是構成“侵犯公民個人信息罪”

還是“非法控制計算機信息系統罪”呢？

法院經審理認為

傅某通過專門軟件改變了

手機系統原本調用攝像頭的正常方式

強制系統讀取預設視頻

實現替換攝像頭的功能

本質上是對計算機信息系統的干擾和控制

符合非法控制計算機信息罪的構成要件

根據《刑法》第二百八十五條

第二款規定

采用其他技術手段

非法控制計算機信息系統的

構成非法控制計算機信息系統罪

法院認為

傅某使用軟件干擾平臺人臉識別

繞過活體檢測的行為

屬于“其他技術手段”

最終，泉州市鯉城區人民法院

判處傅某有期徒刑三年

并處罰金五千元

違法所得予以沒收

從沉迷技術的“玩家”

到游走法律邊緣的“達人”

最終淪為身陷囹圄的罪犯

傅某的經歷是一條清晰的墜落軌跡

此案為技術濫用者敲響了法律的警鐘

也撕裂了“刷臉即安全”的固有認知

AI技術本身沒有對錯

關鍵在于使用者的選擇

當技術創新遭遇法律紅線時

唯有堅守合規底線，尊重技術邊界

才能讓科技真正服務于社會

大家談

問：在本案中，傅某通過AI換臉，幫助客戶非法注冊各種賬號，欺騙購酒平臺的人臉認證非法獲得購酒資格。法院如何定性這種利用AI換臉進行犯罪的行為，面對這種新型犯罪手段，法院主要依據哪些法律來進行判決？

答：本案中，傅某系通過專門軟件改變了手機系統原本調用攝像頭的正常方式，強制系統讀取預設視頻，實現替換攝像頭的功能，本質上是對計算機信息系統的干擾和控制，符合非法控制計算機信息系統罪的構成要件。

我們法院對該案主要適用刑法第285條第二款關于“違法國家規定，采用其他技術手段，對國家事務、國防建設、尖端科學技術領域以外的計算機信息系統實施非法控制的”，構成非法控制計算信息系統罪”的規定，對傅某進行判決。

當然，傅某在實施上述犯罪行為的同時亦觸犯刑法關于“侵犯公民個人信息罪”的規定，與前罪系屬目的和手段關系，在刑法上稱為“牽連犯”，在本案，法院選擇更重前罪判處。

問：隨著AI技術的快速發展，可以預見的是，利用或濫用AI技術從事違法犯罪的活動也會日益增多，在打擊治理“AI犯罪”這一方面，我們法院有哪些相對應的措施？

答：面對日益增多的“AI犯罪”挑戰，我們法院正在從三方面著手應對：

一是堅持依法嚴懲，筑牢法律防線。嚴格適用現行法律，對利用AI實施的各類犯罪，做到精準打擊、罪責刑相適應。同時，也會密切關注新型犯罪形態，通過證據規則的適用和案件裁判尺度的統一，確保依法精準打擊新類型犯罪。

二是強化協同治理，形成打擊合力。打擊“AI犯罪”不能僅靠法院。我們正積極推動與公安、檢察院、行政等部門的協同聯動，建立起數據共享、線索移交、會商研判的快速通道，加大全鏈條打擊力度。

三是延伸審判職能，加強司法預警。法院通過發布典型案例、走進社區、校園普法等方式，揭示“AI犯罪”的手法和危害，提升全社會的防范意識和辨別能力，從源頭上壓縮犯罪空間。

問：這幾年可以說是AI技術的爆發期，越來越多的人在工作生活中開始享受到AI帶來的全新體驗，但伴隨而來的可能就有AI技術被利用后的各種風險。請教粟代表，類似AI換臉，AI變聲這類的新技術，如果被人利用，給我們生活以及社會可能帶來哪些具體風險和危害？

答：這些風險非常現實且具體。我認為主要有兩個方面的危害：

第一，最直接的影響是公民權益受到侵害。最典型的是不法分子利用AI變聲、換臉冒充親友或領導進行視頻通話進行詐騙。還有利用“AI換臉”技術惡意拼接視頻損害他人名譽權和肖像權等案件亦有出現。

第二，對企業信譽、數字經濟和社會信任構成了切實威脅。它可能被用于偽造企業人員的虛假言論，損害其公眾形象與商業信譽，也可能制造并傳播不實信息，干擾數字經濟的健康運行。這種行為會加劇虛假信息的泛濫，最終侵蝕社會信任這一寶貴的公共基石。

總而言之，技術本身是雙刃劍，在享受AI紅利的同時，必須高度重視其帶來的新型犯罪形式和社會信任危機，并盡快建立有效的監管與應對機制。

問：我們希望AI技術能被高效便捷又安全的使用。所以，在AI技術的應用、規范、以及監管方面，我們是不是應該建立一個各部門合作的體系，來保證AI技術應用的安全呢，您的建議是什么？

答：如何保證AI技術應用的安全，我個人建議有兩點：

一是平臺與企業層面。作為技術研發和應用的前沿，不能只追求效率效益而忽視安全。需要建立嚴格的內容審核機制，對AI換臉、生成視頻等內容進行顯著標識，利用技術手段識別、追蹤深度偽造內容。對同一IP地址登陸的不同賬號進行人臉識別使用的限制和預警，人臉識別與身份驗證并用，從源頭設立“防火墻”。

二是政府與個人層面。加快立法進程，明確AI濫用的法律邊界與懲罰措施，確立清晰的權責規則。出臺清晰、統一的行業標準和安全基準。加強公眾個人防護意識，提升全民的數字素養和辨別能力，保護好指紋、人臉、虹膜等個人生物識別信息。

問：本案中，傅某通過AI換臉，讓客戶非法獲得購酒資格。生活中，利用AI換臉等技術從事犯罪的行為越來越多。比如利用AI換臉進行詐騙，獲取個人信息，甚至犯罪等等。請教下何教授，AI換臉等深度偽造技術帶來的新型犯罪手段，我們現有法律相對于這些AI技術發展是否存在一些滯后性，我們有沒有必要在利用“AI犯罪”方面設置專門的條款，來增強法律的威懾力和針對性。

答：數字時代，AI技術在給我們的生活帶來便利的同時，也給犯罪分子提供了新的犯罪工具。從司法實務中新出現的相關案例來看，行為人通過AI換臉，騙取被害人的信任，繼而實施各種犯罪行為。在AI技術賦能下，犯罪手段先進，具有較強的技術性和隱蔽性，以上新型犯罪類型，對我國現有的法律體系提出了挑戰。社會發展催生新的社會需求，在全面依法治國推進的背景下，隨著AI技術的發展和進一步成熟，以AI換臉為代表的涉AI類犯罪的刑法規制，相關立法應該會進行相應調整。目前學界正在討論涉AI犯罪的刑法規制，AI犯罪案件數及犯罪類型不斷增加的情況下，刑法可能會具體針對此類“AI犯罪”進行特別規定，以加強刑法的規制，確保民眾生命財產安全。

問：技術本身沒有對錯，但技術如果落在不法分子的手中，就極可能會危害我們的生活。對于我們普通百姓來說，平時生活工作中該如何保護好個人信息，比如指紋，人臉信息等等。

答：首先提升防范意識。對于敏感個人信息?：身份證號、銀行卡號等核心信息需嚴格保密，避免在非必要場合透露?；?核實身份?：在需要提供個人信息的場合，特別是線上非接觸性交流中，需要多渠道驗證對方合法性，謹慎提供個人敏感信息?。?文件處理?：廢棄的快遞單、車票等應粉碎或涂抹后再丟棄，身份證復印件需標注用途?。

其次規范網絡行為：?盡量不點陌生鏈接、二維碼，不下載非官方應用，防止釣魚攻擊?；?隱私設置?：在自己的社交媒體需調整隱私權限，限制可查看人群的范圍，避免公開過多個人細節?。