新規(guī)來了！中國AI治理邁入“標(biāo)識”時代

近年來，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為人們的生產(chǎn)生活帶來極大便利，但同時也伴生出虛假信息傳播、惡意內(nèi)容生成等諸多新問題。為促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識，國家互聯(lián)網(wǎng)信息辦公室等四部門制定了《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《辦法》），并于2025年9月1日起施行。

這部新規(guī)的施行，對于當(dāng)前虛假消息傳播、惡意內(nèi)容生成等AI領(lǐng)域亂象的治理，有哪些現(xiàn)實(shí)意義和價(jià)值？未來應(yīng)如何壓實(shí)平臺主體責(zé)任，確保《辦法》的相關(guān)要求能夠得到有效落實(shí)？在推動新規(guī)實(shí)施過程中，又可以通過哪些措施不斷提升用戶合規(guī)意識？日前，法治網(wǎng)研究院邀請南開大學(xué)法學(xué)院副院長陳兵、中國政法大學(xué)數(shù)據(jù)法治研究院教授王立梅、中國人民大學(xué)人工智能治理研究院研究員黃尹旭、《法治日報(bào)》律師專家?guī)斐蓡T張?jiān)蒲啵瑖@相關(guān)話題展開一場深度對談。

01

法治網(wǎng)研究院：9月1日，人工智能領(lǐng)域這部備受矚目的《辦法》已正式施行，您如何看待這一新規(guī)的作用和價(jià)值？

陳兵：近年來，人工智能生成合成內(nèi)容逼真程度不斷提高，虛假消息傳播、惡意內(nèi)容生成等風(fēng)險(xiǎn)日益凸顯，嚴(yán)重削弱了民眾對網(wǎng)絡(luò)傳播內(nèi)容的信任根基。

我認(rèn)為，《辦法》的出臺能夠有效遏制AI內(nèi)容亂象。從保障信息安全角度看，《標(biāo)識辦法》通過明確要求服務(wù)提供者對生成合成內(nèi)容添加顯式和隱式標(biāo)識，使內(nèi)容具備可追溯性，從源頭遏制虛假信息的傳播。

從技術(shù)進(jìn)步以及產(chǎn)業(yè)發(fā)展的角度看，它促進(jìn)了人工智能技術(shù)的規(guī)范化發(fā)展，提升了技術(shù)的透明度，有助于規(guī)范相關(guān)服務(wù)提供者、內(nèi)容傳播服務(wù)提供者以及用戶在AI內(nèi)容生成、傳播過程中的各類行為。

從統(tǒng)籌發(fā)展與安全的角度看，在防范技術(shù)濫用風(fēng)險(xiǎn)的同時，為產(chǎn)業(yè)創(chuàng)新預(yù)留空間，有助于推動人工智能健康有序發(fā)展。最終，《辦法》能夠促進(jìn)人工智能技術(shù)的透明度與可信度的提升，確保人工智能實(shí)現(xiàn)堅(jiān)持高質(zhì)量發(fā)展與高水平安全良性互動。

黃尹旭：《辦法》構(gòu)建了客觀判斷標(biāo)準(zhǔn)，為平臺治理提供了具象化參照，明確了生成合成內(nèi)容的界定、標(biāo)識方式及未標(biāo)識后果；同時，其也明確了責(zé)任承擔(dān)，劃分了用戶主動標(biāo)識義務(wù)與平臺審核監(jiān)督義務(wù)，構(gòu)建了清晰的責(zé)任鏈條；此外，它還提升了規(guī)則公開性與可預(yù)期性，遏制了平臺權(quán)力濫用風(fēng)險(xiǎn)，明確規(guī)范了平臺行權(quán)邊界。

可以說，《辦法》體現(xiàn)了人工智能治理從以往的被動響應(yīng)，邁向了主動建構(gòu)的新階段，既著眼于防范技術(shù)風(fēng)險(xiǎn)，更可經(jīng)由“標(biāo)識”這一新型法律工具，推進(jìn)變革數(shù)字時代的法律關(guān)系、責(zé)任倫理與創(chuàng)新生態(tài)，是對技術(shù)向善理念的制度化詮釋。

02

法治網(wǎng)研究院：我們注意到，針對《辦法》相關(guān)要求，騰訊、抖音、B站、快手、DeepSeek等眾多平臺均在第一時間予以響應(yīng)，紛紛出臺了各自的細(xì)化規(guī)則。對于未來如何進(jìn)一步壓實(shí)平臺主體責(zé)任，您有哪些建議？

王立梅：我認(rèn)為，需要以平衡理念推動平臺主體責(zé)任落實(shí)。一方面，平臺應(yīng)加強(qiáng)技術(shù)能力，開發(fā)AI生成內(nèi)容識別技術(shù)，完善標(biāo)識技術(shù)，同時確保標(biāo)識可識別和可溯源。對未按要求標(biāo)識的內(nèi)容提前篩查，對已發(fā)布的違規(guī)內(nèi)容及時下架，落實(shí)事前管控和事后整改雙重責(zé)任。

另一方面，也應(yīng)明確“平臺權(quán)力”的邊界，要求對AI內(nèi)容的識別邏輯和處置措施與信息內(nèi)容治理目的相符、手段適當(dāng)，防止AI內(nèi)容識別異化為流量操控的工具。

陳兵：一些平臺針對上述《辦法》出臺了細(xì)化規(guī)則，還紛紛推出AI內(nèi)容標(biāo)識功能，幫助平臺用戶更快捷方便的對AI合成內(nèi)容進(jìn)行甄別。但是，隨著AI技術(shù)的發(fā)展，平臺想要落實(shí)主體責(zé)任的挑戰(zhàn)依然嚴(yán)峻。

首先，平臺應(yīng)當(dāng)持續(xù)加強(qiáng)技術(shù)能力建設(shè)，不斷提升對生成合成內(nèi)容標(biāo)識的檢測、識別和管理技術(shù)能力。

其次，建立投訴舉報(bào)與反饋機(jī)制，鼓勵用戶對涉嫌未按規(guī)定標(biāo)識的生成合成內(nèi)容進(jìn)行投訴舉報(bào)，對于有問題的內(nèi)容及時進(jìn)行處理。

再次，可以加強(qiáng)平臺間的聯(lián)動，推動平臺間技術(shù)與經(jīng)驗(yàn)共享，形成治理合力，避免“各自為戰(zhàn)”導(dǎo)致的監(jiān)管漏洞。

最后，平臺還需推動用戶教育與透明化，定期發(fā)布平臺治理報(bào)告，公開違規(guī)案例處置結(jié)果，接受社會監(jiān)督。

張?jiān)蒲啵?/strong>《辦法》實(shí)施后，平臺的責(zé)任更明確了，但要真正壓實(shí)，確實(shí)還需要進(jìn)一步細(xì)化。第一，不同平臺定位不同，比如社交、視頻、模型提供方，不能一刀切，而要分級分類，明確各自的責(zé)任。

第二，平臺要提高可操作性，不能只滿足于“貼標(biāo)簽”，而是要形成事前提示、事中攔截、事后追溯的完整機(jī)制。

第三，要有跨平臺協(xié)同，虛假信息常常跨平臺傳播，單靠一家難以徹底管住。未來可以通過行業(yè)聯(lián)盟或第三方數(shù)據(jù)庫，推動標(biāo)識規(guī)則互認(rèn)和信息共享。

總體上，我更傾向于把平臺理解為“風(fēng)險(xiǎn)把關(guān)人”，只有在技術(shù)、合規(guī)和協(xié)同三個方面同時發(fā)力，主體責(zé)任才能真正落地。

03

法治網(wǎng)研究院：《辦法》提出，用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進(jìn)行標(biāo)識。這在具體實(shí)施過程中，需要用戶也積極參與進(jìn)來。您認(rèn)為，可以通過哪些措施不斷提升用戶合規(guī)意識和意愿？

黃尹旭：可以強(qiáng)化認(rèn)知教育以傳遞標(biāo)識價(jià)值，在用戶首次使用相關(guān)工具或平臺時，設(shè)置短圖文、15秒短視頻進(jìn)行前置化規(guī)則引導(dǎo)。

可以明確不同類型 AIGC（如文本、圖像、視頻）的標(biāo)識標(biāo)準(zhǔn)與方式，幫助用戶清晰知曉義務(wù)。例如，規(guī)定文本類AIGC需在開頭顯著位置以特定字體、字號標(biāo)明“AI生成”。

可以設(shè)立合規(guī)指引機(jī)制，編寫通俗易懂的合規(guī)指南，經(jīng)由線上線下多渠道向用戶普及，降低用戶理解法規(guī)的成本。

同時，對主動合規(guī)標(biāo)識的用戶，平臺可采取流量扶持、專項(xiàng)推薦等激勵措施。

王立梅：未來需要打好“便利+約束+激勵”的組合拳，來提升用戶合規(guī)意識和意愿。一是以便利化功能降低合規(guī)門檻。平臺應(yīng)在內(nèi)容上傳渠道中將標(biāo)識功能前置化、默認(rèn)化，自動核驗(yàn)隱性標(biāo)識并提供適當(dāng)?shù)娘@性標(biāo)識，使合規(guī)成為一鍵式操作。

二是建立懲戒機(jī)制明確違規(guī)代價(jià)。通過風(fēng)險(xiǎn)提示、案例釋明等方式，讓用戶知悉未盡標(biāo)識義務(wù)、使用不正當(dāng)標(biāo)識手段的平臺處罰措施與責(zé)任承擔(dān)風(fēng)險(xiǎn)。

三是完善正向激勵機(jī)制以加強(qiáng)合規(guī)動力。鼓勵平臺通過可信用戶認(rèn)證等方式激勵用戶合規(guī)標(biāo)識，通過積分、聲譽(yù)、流量等收益促進(jìn)合規(guī)。

張?jiān)蒲啵?/strong>提升用戶的合規(guī)意識和意愿，核心是降低成本、提高收益。第一，要讓用戶標(biāo)識更方便。比如平臺提供一鍵標(biāo)注、自動識別的功能，讓用戶幾乎不需要額外操作。

第二，要讓用戶清楚后果。平臺可以通過彈窗提示、合規(guī)指引，告訴用戶如果不標(biāo)注，可能會面臨的處罰或限流。

第三，可以正向激勵。比如對主動合規(guī)的用戶，平臺在推薦、流量上給予一定支持，讓大家感覺標(biāo)注不吃虧。

第四，還要加大宣傳，讓更多用戶意識到標(biāo)識不是形式，而是對網(wǎng)絡(luò)環(huán)境的一種保護(hù)。

我認(rèn)為，只有這樣結(jié)合便利性、約束力和激勵措施，用戶的合規(guī)意識和意愿才會真正提高。

專家簡介

陳兵

南開大學(xué)法學(xué)院副院長、教授、博士生導(dǎo)師，中國新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員

王立梅

中國政法大學(xué)數(shù)據(jù)法治研究院教授，中國法學(xué)會網(wǎng)絡(luò)與信息法學(xué)研究會副會長

黃尹旭

中國人民大學(xué)法學(xué)院副教授，中國人民大學(xué)人工智能治理研究院研究員

張?jiān)蒲?/strong>

《法治日報(bào)》律師專家?guī)斐蓡T，北京金誠同達(dá)律師事務(wù)所高級合伙人、管理合伙人

來源：法治網(wǎng)