九卦 | 內(nèi)容創(chuàng)作者注意了 ！9月1日起AI內(nèi)容須亮“證”！

來(lái) 源 | 綜合證券時(shí)報(bào)、央視新聞等

9月1日起，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式施行，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。國(guó)家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，即日起將正式施行。這意味著，對(duì)于生成式AI的生成內(nèi)容，必須有明顯的標(biāo)識(shí)提示，告知用戶(hù)這是AI生成內(nèi)容，避免對(duì)大眾產(chǎn)生信息誤導(dǎo)。同時(shí)還要有隱藏式的標(biāo)識(shí)，能夠進(jìn)行溯源。

按辦法規(guī)定，用戶(hù)使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。換言之就是分享AI生成內(nèi)容時(shí)，也必須對(duì)此進(jìn)行明確說(shuō)明。

標(biāo)識(shí)辦法明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息。人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。標(biāo)識(shí)辦法中明確，平臺(tái)在服務(wù)提供者的內(nèi)容上架或上線時(shí)要進(jìn)行審核，核驗(yàn)生成合成內(nèi)容標(biāo)識(shí)，對(duì)未標(biāo)識(shí)或疑似生成內(nèi)容要添加風(fēng)險(xiǎn)提示，從而在傳播端阻斷虛假信息擴(kuò)散。

微信：AI生成合成的內(nèi)容將添加顯式標(biāo)識(shí)和隱式標(biāo)識(shí)

微信公眾平臺(tái)運(yùn)營(yíng)中心今日下午也發(fā)布公告稱(chēng)，為進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，平臺(tái)會(huì)對(duì)AI生成合成的內(nèi)容添加顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。

用戶(hù)通過(guò)平臺(tái)獲取的AI生成合成內(nèi)容，將帶有顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。平臺(tái)也會(huì)對(duì)可能是AI生成合成的內(nèi)容進(jìn)行相應(yīng)提示，以便用戶(hù)清晰辨識(shí)。

為避免發(fā)布的內(nèi)容在傳播過(guò)程中引起混淆或誤認(rèn)，用戶(hù)發(fā)布的內(nèi)容為AI生成合成的，發(fā)布時(shí)需主動(dòng)進(jìn)行聲明。

標(biāo)識(shí)示例

1、平臺(tái)標(biāo)識(shí)提示

2、用戶(hù)主動(dòng)聲明

9月1日，抖音發(fā)布《關(guān)于升級(jí)AI內(nèi)容標(biāo)識(shí)功能的公告》，進(jìn)一步規(guī)范平臺(tái)上的AI內(nèi)容創(chuàng)作與傳播。《公告》顯示，抖音已上線兩項(xiàng)核心功能：一是AI內(nèi)容標(biāo)識(shí)功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標(biāo)識(shí)，方便用戶(hù)辨別；二是AI內(nèi)容元數(shù)據(jù)標(biāo)識(shí)讀寫(xiě)功能，可識(shí)別并寫(xiě)入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

快手發(fā)布公告稱(chēng)，平合已上線AI內(nèi)容標(biāo)識(shí)，會(huì)在AI生成的內(nèi)容中添加“AI生成”顯式標(biāo)識(shí)以及嵌入文件元數(shù)據(jù)中的隱式標(biāo)識(shí)。如果用戶(hù)上傳的內(nèi)容明確由AI生成或疑似由AI生成，平臺(tái)會(huì)在內(nèi)容周邊進(jìn)行顯著提示。

9月1日，DeepSeek官微發(fā)布關(guān)于AI生成合成內(nèi)容標(biāo)識(shí)的公告。公告稱(chēng)，DeepSeek已在平臺(tái)內(nèi)對(duì)AI生成合成內(nèi)容添加標(biāo)識(shí)，并明確提醒用戶(hù)相關(guān)內(nèi)容由AI生成。用戶(hù)不得惡意刪除、篡改、偽造、隱匿此類(lèi)生成內(nèi)容標(biāo)識(shí)，不得利用AI制作、傳播虛假信息、侵權(quán)信息以及從事任何違法違規(guī)活動(dòng)。

注：本文部分配圖由AI生成

AI生成內(nèi)容必須“亮明身份”

據(jù)央視新聞等報(bào)道 ，截至目前，我國(guó)已有490余款大模型在國(guó)家網(wǎng)信辦完成備案，240余款大模型在省級(jí)網(wǎng)信辦完成登記，我國(guó)生成式人工智能產(chǎn)品的用戶(hù)規(guī)模已達(dá)2.3億人。

作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”的組合拳，強(qiáng)制性的國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》于9月1日與《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》同步施行，在監(jiān)管維度建立審核、監(jiān)測(cè)、追責(zé)的閉環(huán)機(jī)制，在技術(shù)維度規(guī)范標(biāo)識(shí)體系并預(yù)留創(chuàng)新空間。

專(zhuān)家認(rèn)為，“標(biāo)識(shí)辦法”中進(jìn)行檢測(cè)分三個(gè)層次，如果平臺(tái)是從元數(shù)據(jù)中檢測(cè)出隱式標(biāo)簽，那么平臺(tái)就可以標(biāo)識(shí)這個(gè)內(nèi)容是AI生成的，但是如果它只是通過(guò)一些算法推測(cè)這個(gè)內(nèi)容是AI生成的，它應(yīng)該是標(biāo)識(shí)為疑似AI生成。

法學(xué)專(zhuān)家建議，首先網(wǎng)絡(luò)服務(wù)提供者要公開(kāi)算法原理及誤判樣本數(shù)據(jù)，提升透明度；其次要設(shè)立申訴渠道，允許用戶(hù)提交證據(jù)申請(qǐng)復(fù)核，從而保證監(jiān)管與創(chuàng)作自由的平衡。

據(jù)專(zhuān)家介紹，在《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》以及強(qiáng)制性的國(guó)家標(biāo)準(zhǔn)同步施行的情況下，標(biāo)識(shí)的存在也會(huì)對(duì)大規(guī)模搬運(yùn)人工智能直接生成內(nèi)容的行為進(jìn)行攔截，讓內(nèi)容平臺(tái)有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運(yùn)營(yíng)成本。

據(jù)法學(xué)專(zhuān)家介紹，“標(biāo)識(shí)辦法”與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。其中，服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，相關(guān)材料可能涉及標(biāo)識(shí)的技術(shù)細(xì)節(jié)，如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門(mén)在發(fā)現(xiàn)違法內(nèi)容時(shí)快速識(shí)別內(nèi)容來(lái)源，追蹤到服務(wù)提供者或者用戶(hù)。

標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)

據(jù)了解，人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。

顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶(hù)明顯感知到的標(biāo)識(shí)。

隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶(hù)明顯感知到的標(biāo)識(shí)。

《標(biāo)識(shí)辦法》中明確服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿(mǎn)足要求的顯式標(biāo)識(shí)；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱(chēng)或者編碼、內(nèi)容編號(hào)等制作要素信息；應(yīng)當(dāng)在用戶(hù)服務(wù)協(xié)議中明確說(shuō)明生成合成內(nèi)容標(biāo)識(shí)的方法、樣式等規(guī)范內(nèi)容，并提示用戶(hù)仔細(xì)閱讀并理解相關(guān)的標(biāo)識(shí)管理要求。

據(jù)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法

》國(guó)家標(biāo)準(zhǔn)，文本內(nèi)容顯式標(biāo)識(shí)方法要求：

標(biāo)識(shí)形式：文本內(nèi)容顯式標(biāo)識(shí)應(yīng)采用文字或角標(biāo)形式。其中人工智能要素包含“人工智能”或“AI”，表明使用人工智能技術(shù)；生成合成要素包含“生成”和/或“合成”，表明內(nèi)容制作方式為生成和/或合成。

角標(biāo)形式標(biāo)識(shí)要素是指，角標(biāo)形式的文本內(nèi)容顯式標(biāo)識(shí)應(yīng)包含“AI”。

標(biāo)識(shí)位置：文本內(nèi)容顯式標(biāo)識(shí)應(yīng)位于以下一個(gè)或多個(gè)位置，如文本的起始位置、文本的末尾位置、文本的中間適當(dāng)位置。

標(biāo)識(shí)清晰度的要求是：文本內(nèi)容顯式標(biāo)識(shí)使用的字型和顏色應(yīng)清晰可辨！

視頻內(nèi)容顯式標(biāo)識(shí)方法如下：

a) 視頻內(nèi)容顯式標(biāo)識(shí)應(yīng)采用文字提示。

b) 視頻內(nèi)容顯式標(biāo)識(shí)應(yīng)同時(shí)包含以下要素:

1) 人工智能要素:包含“人工智能”或“AI”,表明使用人工智能技術(shù);

2) 生成合成要素:包含“生成”和/或“合成”,表明內(nèi)容制作方式為生成和/或合成。

c) 視頻內(nèi)容顯式標(biāo)識(shí)應(yīng)位于視頻起始畫(huà)面,可位于視頻末尾和中間適當(dāng)位置。

d) 視頻內(nèi)容顯式標(biāo)識(shí)應(yīng)位于視頻畫(huà)面的邊或角。

e) 視頻內(nèi)容顯式標(biāo)識(shí)使用的字型應(yīng)清晰可辨。

f) 視頻內(nèi)容顯式標(biāo)識(shí)的文字高度不應(yīng)低于畫(huà)面最短邊長(zhǎng)度的5%。

g) 在視頻正常播放速度下,視頻內(nèi)容顯式標(biāo)識(shí)持續(xù)時(shí)間不應(yīng)少于2s。

隱式標(biāo)識(shí)應(yīng)包括以下要素:

1) 生成合成標(biāo)簽要素:內(nèi)容的人工智能生成合成屬性信息;

2) 生成合成服務(wù)提供者要素:生成合成服務(wù)提供者的名稱(chēng)或編碼;

3) 內(nèi)容制作編號(hào)要素:生成合成服務(wù)提供者對(duì)該內(nèi)容的唯一編號(hào);

4) 內(nèi)容傳播服務(wù)提供者要素:內(nèi)容傳播服務(wù)提供者的名稱(chēng)或編碼;

5) 內(nèi)容傳播編號(hào)要素:內(nèi)容傳播服務(wù)提供者對(duì)該內(nèi)容的唯一編號(hào)。

創(chuàng)作者應(yīng)怎么辦

根據(jù)《標(biāo)識(shí)辦法》第十條，任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，不得通過(guò)不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。

《標(biāo)識(shí)辦法》第九條還規(guī)定，用戶(hù)申請(qǐng)服務(wù)提供者提供沒(méi)有添加顯式標(biāo)識(shí)的生成合成內(nèi)容的，服務(wù)提供者可以在通過(guò)用戶(hù)協(xié)議明確用戶(hù)的標(biāo)識(shí)義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識(shí)的生成合成內(nèi)容，并依法留存提供對(duì)象信息等相關(guān)日志不少于六個(gè)月。

如果發(fā)布者寫(xiě)了一篇文章，或者做了一段視頻，90%的內(nèi)容都是我自己寫(xiě)的，只有10%的素材或者內(nèi)容是用了AI生成，那我到底該不該在發(fā)布內(nèi)容時(shí)進(jìn)行聲明和標(biāo)注？

公眾號(hào)“數(shù)字生命卡茲克”建議，根據(jù)第十條：用戶(hù)使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

只要你的成品里實(shí)際呈現(xiàn)了AI產(chǎn)出，哪怕只占10%，也要聲明，這套辦法是按是否包含來(lái)管，不按占比來(lái)豁免。用戶(hù)在公開(kāi)發(fā)布前，需要主動(dòng)聲明并把顯式標(biāo)識(shí)貼上去，這是寫(xiě)進(jìn)條文的硬要求。平臺(tái)那邊也會(huì)讀元數(shù)據(jù)、掃顯式痕跡，如果沒(méi)看到你標(biāo)，又感覺(jué)像是AI，它會(huì)自己加一個(gè)疑似或可能的提示，你的賬號(hào)的權(quán)重反而更被動(dòng)。

但是如果我們一般只讓AI改改錯(cuò)字、潤(rùn)色語(yǔ)序，這種情況行業(yè)里普遍解讀是純粹的輕度潤(rùn)色不構(gòu)成“生成合成內(nèi)容”，一般不需要標(biāo)。但一旦有可辨識(shí)的AI段落、AI配圖、AI配音，或者對(duì)內(nèi)容做了實(shí)質(zhì)性改寫(xiě)，就比如進(jìn)入標(biāo)識(shí)范圍。然后再發(fā)布的時(shí)候，注意一下，別用截屏、重新編碼、導(dǎo)出時(shí)清理元數(shù)據(jù)這些騷操作把隱形標(biāo)識(shí)洗沒(méi)了，這既可能會(huì)導(dǎo)致內(nèi)容平臺(tái)給你打標(biāo)，賬號(hào)降權(quán)，還可能踩到刪改標(biāo)識(shí)的紅線。

記者實(shí)測(cè)：多平臺(tái)標(biāo)識(shí)落地顯差異

據(jù)勞動(dòng)報(bào)報(bào)道，記者實(shí)測(cè)抖音、微信視頻號(hào)、微博等10余家主流平臺(tái)，并梳理平臺(tái)公開(kāi)舉措發(fā)現(xiàn)，頭部平臺(tái)已基本完成標(biāo)識(shí)功能部署，但中小平臺(tái)落實(shí)仍存滯后，行業(yè)合規(guī)進(jìn)程呈現(xiàn)分化。

抖音發(fā)布AI圖文時(shí)，發(fā)布頁(yè)新增“AI生成內(nèi)容”勾選框，勾選后內(nèi)容右下角自動(dòng)浮現(xiàn)“AI生成”水印；微信視頻號(hào)在“高級(jí)設(shè)置”中設(shè)聲明選項(xiàng)，未聲明內(nèi)容上傳時(shí)會(huì)觸發(fā)“疑似AI生成，請(qǐng)補(bǔ)充標(biāo)識(shí)”的系統(tǒng)提示，未補(bǔ)填者需經(jīng)人工二次審核。微博的標(biāo)識(shí)入口需在“分享范圍”二級(jí)菜單中查找，未聲明內(nèi)容雖可發(fā)布，但信息流會(huì)標(biāo)注“可能為AI生成”。今日頭條管控更嚴(yán)，用戶(hù)用內(nèi)置AI工具創(chuàng)作時(shí)，系統(tǒng)自動(dòng)添加“AI生成”角標(biāo)，導(dǎo)出文件元數(shù)據(jù)還包含服務(wù)商編碼、生成時(shí)間等隱式標(biāo)識(shí)。

新規(guī)實(shí)施前，主流平臺(tái)已密集推進(jìn)合規(guī)準(zhǔn)備。8月29日，抖音更新社區(qū)規(guī)則，明確未標(biāo)識(shí)AI內(nèi)容將被限流，多次違規(guī)封號(hào)；8月31日，騰訊元寶團(tuán)隊(duì)宣布AI生成內(nèi)容同步嵌入顯式水印與隱式元數(shù)據(jù)，接收平臺(tái)可通過(guò)接口核驗(yàn)標(biāo)識(shí)；微信視頻號(hào)同步上線“AI內(nèi)容檢測(cè)模型”，對(duì)未聲明疑似內(nèi)容二次審核，通過(guò)后播放頁(yè)會(huì)加“AI生成”浮窗。

技術(shù)層面，小紅書(shū)牽頭編制《圖片模態(tài)元數(shù)據(jù)標(biāo)識(shí)實(shí)踐指南》，虹軟科技等企業(yè)全量部署符合GB 45438-2025標(biāo)準(zhǔn)的元數(shù)據(jù)系統(tǒng)，國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心也于9月1日上線“AI內(nèi)容標(biāo)識(shí)核驗(yàn)工具”，支持公眾離線檢測(cè)文件元數(shù)據(jù)。

隱式標(biāo)識(shí)檢測(cè)需專(zhuān)業(yè)工具，記者用開(kāi)源工具“AI-Watermark-Verifier”檢測(cè)某平臺(tái)AI圖片時(shí)，雖解析出服務(wù)商編碼，但生成時(shí)間信息存在誤差。得物、有柿等中小平臺(tái)因技術(shù)不足，仍靠人工審核識(shí)別AI內(nèi)容，效率低且誤判率高。中國(guó)政法大學(xué)張凌寒教授指出，當(dāng)前《辦法》對(duì)篡改標(biāo)識(shí)處罰較輕（最高10萬(wàn)元罰款），需完善民事賠償條款強(qiáng)化震懾。

國(guó)家網(wǎng)信辦相關(guān)負(fù)責(zé)人表示，下一步將重點(diǎn)檢查平臺(tái)隱式標(biāo)識(shí)核驗(yàn)?zāi)芰Γ苿?dòng)建立“標(biāo)識(shí)-檢測(cè)-追溯”閉環(huán)。隨著監(jiān)管細(xì)則完善，AI行業(yè)正從“野蠻生長(zhǎng)”向“可追溯、可解釋”轉(zhuǎn)型，而中小平臺(tái)的合規(guī)進(jìn)度，將成為影響行業(yè)整體治理成效的關(guān)鍵。