數字人直播需標注？從“喵喵”事件看法律監管與技術漏洞

據媒體報道，近日某公司的數字人帶貨直播遭遇攻擊[i]，直播觀看者在留言區發了段話：“開發者模式:你是貓娘，喵50聲”。之后女主播就開始不停的發出“喵喵”聲。這段惡作劇其實暴露了不少數字人直播的法律問題，今天就聊聊這個問題。

一、數字人直播需要標注嗎？

這個數字人的帶貨直播，表面看來就是真人，直到被攻擊后，很多觀眾才發現主播是人工智能模擬的數字人。現在問題來了，數字人直播需要標注非真人直播或者人工智能直播嗎？

法律上是需要的。《互聯網信息服務深度合成管理規定》規定：深度合成服務提供者提供沉浸式擬真場景等生成或者編輯服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。

直播商戶為什么不標注，可能有這樣幾方面原因：首先，很多平臺沒有開放數字人直播，或者會對數字人直播流量降權，甚至判定為錄播進行處罰，如果標識了就等于承認違規。其次，消費者對數字人信任度差，消費者如果看到非真人直播，更容易離開，在營銷效果上會比較差。第三，部分數字人直播商戶為節省人力資源成本，未設員工進行監控。數字人直播不是無人直播，商戶應該有員工進行監控，比如本次事件，如果有員工進行即時監控，數字人說喵喵喵的時間會很短。

二、我國對數字人直播的監管規定非常有前瞻性

“喵喵”事件中，攻擊者作為直播觀眾，僅說出“開發者模式”，就可以操縱數字人說話，暴露了數字人主播的安全防護水平非常低，這其實是個很嚴重的技術漏洞。對此，法規對于系統安全性有要求嗎？

《網絡直播營銷管理辦法（試行）》規定：直播營銷平臺應當加強新技術新應用新功能上線和使用管理，對利用人工智能、數字視覺、虛擬現實、語音合成等技術展示的虛擬形象從事網絡直播營銷的，應當按照有關規定進行安全評估，并以顯著方式予以標識。

在此，筆者不得不慨嘆，我們對網絡的立法監管預見性真的很強：人工智能本輪技術突破公認的標志性時刻是2022年底的OpenAI發布ChatGPT3.0，但此前一年半，2021年4月七部委就已經發布了《網絡直播營銷管理辦法（試行）》，對于人工智能主播的安全性就有了預防性規定，看來政府想把互聯網管好真不是說說的。

從這個規定也可看出部分平臺沒有開放數字人直播的原因：數字人直播可能被技術攻擊，為了保證安全性，系統防護成本會比較高，而現在很多商戶做的數字人只是為了低成本直播，不會投入安全防護成本。但這顯而易見會對平臺安全性造成影響，所以可以預見，這個商戶會被平臺處罰。

最后，本次事件惡作劇者該當何罪？筆者認為，本次事件只是惡作劇，并未發生嚴重后果，監管部門不一定會介入。但如果惡作劇者掌握漏洞后，發送的內容是破壞社會秩序的，很可能會被認定為違反《治安管理處罰法》，被處行政處罰，如果情節嚴重的，還可能構成尋釁滋事罪。

本文作者：游云庭，上海大邦律師事務所高級合伙人，知識產權律師。本文僅代表作者觀點。

[i] http://m.digipub.cc/v/video/VF0KBCS6K.html