劉興亮 | AI生成內容強標識落地，手動錄入AI文本能算原創嗎？

本文系作者參加九派新聞「九派圓桌」直播《AI 生成內容必須亮身份，如何阻斷虛假信息傳播？》議題討論上的發言整理而成。

來源：九派新聞

文 | 劉興亮

微信編輯：魏國峻

審核：林夕合

【1】《辦法》要解決的三個問題：哪些是AI生成的？是誰生成的？從哪里生成的？

從今年9月1日起，我們每次與AI的互動都將多出一個清晰的數字印記——由國家網信辦等四部門聯合發布的《人工智能生成合成內容標識辦法》已正式實施，這標志著我國對AI生成內容的治理進入了「強標識」時代。

現在AI生成的內容，早已不局限于文本，還能生成圖片、音樂、聲音、視頻，很多時候足以以假亂真。這次出臺的辦法，正是源于現實中的諸多問題。

就拿我自己來說，我有一個用了快四年的數字人。曾經，有一家機構為了推廣自家數字人業務，在未經我授權的情況下，從網上找了我的聲音、視頻素材，生成了一個「我」的數字人用于推廣。我找過去交涉，對方還很詫異，說網上公開的素材，他們也沒惡意，怎么就不能用？可即便沒有惡意，也得經過本人授權吧？最后反倒顯得我「事多」，其實對方確實沒多大惡意，只是想推廣技術，但未經授權的使用本身就不合規。

還有兩個真實案例更值得關注。一次我參加某電視臺節目時，他們給我看了個案例：一對大學生情侶吵架分手后，男生生氣之下用女生的圖像和聲音生成了很多視頻，在同學群里用女生的口吻說她壞話，這已經涉及民事侵權了。另外，某著名高校的一位教授，還被AI合成的「朋友」視頻騙走了400萬，對方的聲音、視頻都是假的，卻騙走了真金白銀。

我自己的數字人已經迭代到4.0版本，每一次迭代都更逼真。一開始我還會主動標注「本視頻由數字人出鏡」，可后來沒再過多標注，結果粉絲經常留言困惑：「這是真人錄的還是數字人生成的？」有時我發真人錄制的視頻，他們反而會問「表情怎么這么假，是不是數字人？」其實用戶有權知道內容是AI生成、真人出鏡，還是手工打造的，也有權知道生成者是誰、來源在哪。這次《辦法》的核心，就是推動AI生成內容從生成到傳播各環節的全流程安全管理，讓這些問題有明確答案。

就如我剛剛提到的例子，如今AI的「深度偽造」功能已經給我們的生活帶來了麻煩。AIGC發展太快，在文本、圖像、音視頻乃至各類虛擬場景中全面滲透，普通老百姓很容易被誤導。這次《辦法》的出臺，核心就是為了提升內容可信度，遏制深度偽造和AI邀約的擴散，明確各類主體的責任，說到底就是該標就標，把關鍵信息說清楚。

之前我們也有《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》，但很多細則沒做到位。這次的《辦法》，其實是對過去兩項規定的細化和補充，進一步明確了標識實施的具體規范，重點是要解決三個核心問題：哪些是AI生成的？是誰生成的？從哪里生成的？

【2】文本領域檢測的兩個核心指標：「困惑度」和「突發性」

我想《辦法》實施后，企業的負擔肯定會加重。企業要承擔主體責任，比如給生成的文本、音頻、圖片、視頻、虛擬場景添加顯性標識，還得開發相應系統和技術，同時做好安全防范——既要主動添加標識，又要防止標識被刪減、修改、攻擊。技術本身有兩面性，要是沒有安全防范，A公司制作的內容被B公司輕易替換，用戶隨便就能修改標識，那這項技術就失去了初衷。

這對中小企業來說壓力更大。大企業有足夠的資金、技術應對，可中小企業不一樣。我老家在山西，以前小煤礦安全難治理，就是因為購置安全設備成本高，小企業舍不得投入，總存僥幸心理「說不定不會被查」。現在AI標識也是同理，中小企業要在技術上真金白銀投入，一旦投入成為負擔，就可能產生僥幸心理，不愿主動合規。

所以我一直呼吁，任何技術都該有普惠性。能不能給中小企業提供打包的系統或技術解決方案？幫他們減少合規負擔？要知道，市面上除了大平臺，還有大量中小平臺，它們沒那么多錢、技術和人才。要是這些中小平臺因能力有限無法落實《辦法》要求，很可能會成為監管漏洞——AI違規內容都跑到中小平臺傳播，這絕非不可能。

事實上，這種情況大概率會出現。要是小企業不愿履行責任、心存僥幸，想靠AI傳播不合規內容，大平臺管得嚴，就會轉向和中小平臺合作，利用中小平臺制作、傳播違規內容，這顯然是我們不愿看到的結果。

還有個大家關心的問題：現在對AI生成內容的監測用什么手段，文本領域的檢測是不是更難、更復雜？

確實如此，現在很多高校老師對論文是否由AI撰寫很困惑，主要是因為他們使用AI的頻次低。像我天天用主流AI工具，現在看一篇論文，大概能判斷出是人類寫的還是AI寫的，甚至能初步判斷用的是哪家AI，這靠的是長期使用積累的經驗。所以我呼吁高校老師多使用AI工具，不然連學生有沒有用、怎么用AI都判斷不出來。

技術角度看，文本領域的檢測主要看兩個核心指標：一是「困惑度」，可以理解為對文本的「驚訝程度」。人類寫的內容有更多不確定性和創造性，困惑度更高，而AI生成文本是靠算概率，比如描述天氣大概率會接「太陽」，描述物體大概率會接「大」或「小」，都是選最可能的下一個詞，所以AI文本更順滑，困惑度更低。二是「突發性」，人類寫作的句子長度、風格變化更大，突發性高，AI生成的文本長度更均勻，突發性低。此外還有條件概率曲率等指標，但核心還是困惑度和突發性。

不過目前這些檢測工具還不夠成熟，誤判率不低。上學期畢業季，我就和某媒體做過相關節目，很多老教授因為不懂AI，直接用檢測工具的AI率作為論文通過與否的依據，結果造成不少誤傷。比如有人自己寫的文章，只是情緒穩定、行文平實，就被判定為AI生成。要是遇到這種誤判，建議大家提供原始證據申訴，比如寫論文時保存的十幾個版本草稿，畢竟AI生成內容不需要反復修改，這些版本記錄就是人類創作的最好證明。同時我也想再次呼吁，老師們用AI檢測工具時一定要謹慎，它不能作為唯一依據。

如果把AI生成的文本手動輸入一遍再上傳，或者給AI生成的圖片手描一遍再發布，能不能蒙混過關，讓平臺判定為原創？

我的回應是，人類做的這些操作，對AI檢測沒有任何干擾。AI檢測工具判斷的是內容本身，即文本的困惑度、突發性、情感變化，關注的是圖片的結構、元素拼接邏輯，而不是看是否來自手工錄入。就算把AI文本抄一遍，內容本質沒變，檢測結果也不會變。就算給AI圖片描邊，圖片核心結構和元素沒改，同樣騙不過檢測工具。畢竟現在《辦法》剛實施，顯性標識還沒完全跟上，當前AI檢測主要靠內容本身判斷。

【3】跨境傳播的AI內容出了問題，責任該怎么劃分？

大家還關心跨境傳播的問題，比如國內生成的AI作品傳到國外，國外的AI作品傳到國內，不同國家標識要求不一樣，能互相認可嗎？有沒有統一監管辦法？

目前在AI生成內容標識這塊，中國是走在全球前面的，全世界對這一領域的治理還比較模糊。未來的趨勢是，我們要和國際透明度規則對齊。比如美國在這方面進展較慢，歐洲則較快，歐盟《AI法案》對深度偽造就有強制標識要求。

要實現互認，技術層面有不少要解決的問題。顯性標識還好說，隱性標識則涉及數據層面，各國能否使用統一的通用語言，這需要各國共同認可，通過統一的元數據和來源憑證，提升境外平臺、監管機構的接受度。當然，我們也要保留國內執法所需的傳播、制作要素，所以實際操作會更復雜，有時可能需要同時保留雙方的標識，但這無疑會進一步增加企業負擔。

不過總體來看，我們現在不僅是AI治理的參與者，更是規則制定者之一，不少國家已經在參考我們的做法了。

那要是跨境傳播的AI內容出了問題，責任該怎么劃分？比如國外生成的有風險的AI作品，傳到國內出了問題，這算國外的責任還是國內平臺的責任？

其實責任分兩塊，生產環節和傳播環節。AI內容在哪個國家生產，就要符合當地法律法規；傳到哪個國家傳播，也要符合那個國家的法律法規。比如一個AI作品在A國生產，要在A國和B國同時傳播，就必須同時符合A、B兩國的規定，否則在任一國家都可能面臨官司或處罰。

這也是中國企業出海難的原因之一，不僅要符合國內法規，還要符合目的地國家的法規，有時甚至要考慮當地的風土人情、民族感情，稍有不慎就可能出問題，所以我們也該對出海企業多一點寬容。

【4】清晰標注有時能提升信任度和合規可見性

大眾會有一種慣性思維，覺得AI做的作品就是不如人原創的有價值，就好像手工做的東西，就是要比流水線上的東西更有價值。那么AI強制標識，對AI產品使用者、AI內容創作者來說，又是怎樣的感受？

作為AI產品使用者，我想分享下自己用AI做視頻的經歷，或許能給大家一些參考。

我用AI數字人做視頻快四年了，說實話，有了AI工具后，人真的會變懶。一開始我給自己定了規矩，數字人出鏡的視頻比例絕不超過50%，還是要自己多錄、多說?？葾I工具太好用了，比例慢慢從50%漲到60%、70%、80%，現在已經到90%了。我現在的視頻節目里，九成是AI數字人生成的。

關于標注，我也有過反復。剛開始用數字人時，我會明確標注「本條視頻由數字人出鏡」，一方面是合規，另一方面也有點嘚瑟，畢竟作為第一批用AI數字人的博主，我也想跟大家分享這種新技術。大概標注了四五個月后，一方面覺得粉絲應該適應了，另一方面有的時候也會忘記標注，慢慢就不標了。

那時的數字人沒有現在的絲滑逼真，評論區總有人問「這是真人還是數字人？」問得多了，過了幾個月我又開始標?，F在我又不標了，一是數字人技術成熟了，大家接受度高了，二是我的節目以輸出觀點為主，觀眾對是否為真人出鏡沒那么在意。而且不同平臺對數字人生成內容的容忍度也不一樣，像我這種知識分享類的露臉視頻，平臺普遍表示「標不標都行」。

在我看來，清晰標注有時能提升信任度和合規可見性。比如新聞類、知識類、商業傳播類這些高敏感度領域，標注就很重要。觀眾會因為你的坦誠標注，覺得你靠譜、真誠，反而增加信任。所以我建議創作者，在這些高敏感度領域一定要能標盡標，既合規，也能收獲更多信任，具體還要結合平臺規則來調整。

關于AI生成內容標識技術的未來趨勢。我認為在可見的未來，有四個方向會是重點攻克的領域：

第一個是標準統一。統一的標準能減少企業的技術投入成本，也能讓跨國互認更方便、更具操作性。要是標準不統一，未來會出現很多銜接問題，這也是我一直呼吁的方向。

第二個是模型簽名化。AI生成內容的源頭是大模型，要是能在生成端就讓模型自動寫入可驗證的來源證明，就能從根源上解決「是誰生成、從哪來」的問題。目前一些大模型在圖像生成領域已經有了先行嘗試，比如ChatGPT的圖像生成功能就包含了一些憑證，未來這一定會成為主流趨勢。

第三個是流市場景的技術整合。現在AI違規內容的重災區是直播、視頻這類「流式場景」，內容是流動的，不像圖片是固定的，監管難度更大。未來針對這類場景，大概率會采用「疊層水印+界面寫標+回放檢驗」的組合手段，這也是標識技術中集成度要求最高的方向。

第四個是平臺協同閉環。把AI內容的生成、讀寫、申訴、追蹤等環節打通，形成完整的治理閉環，讓每個環節都有跡可循、有責可追，這也是未來平臺治理要重點推進的方向。

這四個趨勢，就是我認為AI生成內容標識技術接下來會重點突破的領域，也希望能通過這些技術進步，讓AI生成內容在合規的前提下，更好地服務大家的生活。