法院：平臺(tái)需對(duì)“內(nèi)容由AI生成”的判定進(jìn)行適度的解釋說(shuō)明

國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）將于2025年9月1日起正式施行。

《標(biāo)識(shí)辦法》規(guī)范了人工智能生成合成內(nèi)容標(biāo)識(shí)的使用，要求用戶發(fā)布AI生成合成內(nèi)容時(shí)主動(dòng)聲明并進(jìn)行標(biāo)識(shí)，網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)，如核驗(yàn)文件元數(shù)據(jù)、添加顯著提示標(biāo)識(shí)并提醒公眾，提供必要的標(biāo)識(shí)功能并提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容，當(dāng)未核驗(yàn)到隱式標(biāo)識(shí)用戶亦未聲明但平臺(tái)識(shí)別為疑似生成合成內(nèi)容時(shí)，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著標(biāo)識(shí)，提示公眾該內(nèi)容疑似生成合成內(nèi)容。

北京互聯(lián)網(wǎng)法院審結(jié)了一起網(wǎng)絡(luò)服務(wù)合同糾紛案，原被告雙方作為用戶和網(wǎng)絡(luò)服務(wù)提供者，圍繞人工智能生成內(nèi)容標(biāo)識(shí)起了爭(zhēng)端。

01? 基本案情

原告為涉案平臺(tái)用戶，被告為涉案平臺(tái)運(yùn)營(yíng)者。原告在平臺(tái)上發(fā)布了“打工并不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對(duì)學(xué)車感興趣的話并且以后打算開車的話，可以在你最清閑的一個(gè)假期完成它……工作之后就沒有太多完整的時(shí)間學(xué)駕照了”，該內(nèi)容被涉案平臺(tái)判定為“包含AI生成內(nèi)容但未標(biāo)識(shí)”的違規(guī)情況，涉案平臺(tái)作出將該內(nèi)容隱藏并將用戶禁言一天的處理。后原告進(jìn)行申訴未成功。

原告主張，其并未使用AI創(chuàng)作，被告的行為違約，請(qǐng)求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號(hào)一天的違規(guī)處理，并在后臺(tái)系統(tǒng)中刪除違規(guī)處理記錄。

被告辯稱，被告有權(quán)依據(jù)雙方網(wǎng)絡(luò)服務(wù)合同審核認(rèn)定原告使用平臺(tái)服務(wù)時(shí)的違規(guī)行為并采取必要治理措施，不構(gòu)成違約。涉案平臺(tái)規(guī)范中明確規(guī)定，“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時(shí)，應(yīng)主動(dòng)使用‘人工智能生成內(nèi)容’的標(biāo)簽進(jìn)行聲明，未主動(dòng)聲明的內(nèi)容，平臺(tái)將采取適當(dāng)措施進(jìn)行流量限制并添加相關(guān)標(biāo)識(shí)。”原告發(fā)布的內(nèi)容經(jīng)機(jī)器識(shí)別為“包含人工智能生成”，經(jīng)過(guò)人工復(fù)核，認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。被告作為網(wǎng)絡(luò)服務(wù)提供方，有權(quán)自行選擇合理、必要的方式和技術(shù)，網(wǎng)絡(luò)服務(wù)合同未約定被告有義務(wù)向用戶提供、解釋技術(shù)秘密和算法邏輯，原告無(wú)權(quán)獲知。被告針對(duì)人工智能治理需求開發(fā)、部署、運(yùn)行自研深度合成算法模型是合理、必要的，并設(shè)置專門測(cè)試團(tuán)隊(duì)通過(guò)技術(shù)手段觀察、抽檢模型運(yùn)行的準(zhǔn)確率，如發(fā)生準(zhǔn)確率下降或異常波動(dòng)，被告會(huì)及時(shí)對(duì)模型進(jìn)行優(yōu)化迭代。涉案內(nèi)容被識(shí)別、標(biāo)記期間，模型準(zhǔn)確率沒有變化。請(qǐng)求法院依法駁回原告的訴訟請(qǐng)求。

被告提交其在互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)公示的相關(guān)算法機(jī)制機(jī)理內(nèi)容作為算法決策判定的證據(jù)，主張與涉案檢測(cè)內(nèi)容相關(guān)聯(lián)的部分為“回答安全判別模塊”，其表述為“以自研的指令微調(diào)模型為基座。基于收集并標(biāo)注的有安全風(fēng)險(xiǎn)的回答為語(yǔ)料訓(xùn)練的能力，能攔截掉對(duì)話深度合成模型生成的大部分違規(guī)回答”。

02? 法院審理?????????????

平臺(tái)有權(quán)依據(jù)合同約定對(duì)涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理

網(wǎng)絡(luò)用戶在使用AI工具進(jìn)行創(chuàng)作并將相關(guān)內(nèi)容發(fā)布到網(wǎng)絡(luò)平臺(tái)時(shí)，應(yīng)依照誠(chéng)信原則如實(shí)標(biāo)記。本案中，被告結(jié)合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中有關(guān)深度合成標(biāo)識(shí)的管理規(guī)定和網(wǎng)絡(luò)空間治理的現(xiàn)實(shí)需要，發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時(shí)，應(yīng)主動(dòng)使用標(biāo)識(shí)，幫助讀者進(jìn)行區(qū)分。對(duì)發(fā)布時(shí)未主動(dòng)聲明的內(nèi)容，平臺(tái)將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識(shí)”“未經(jīng)標(biāo)簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。原告系平臺(tái)注冊(cè)用戶，上述公告屬于平臺(tái)服務(wù)協(xié)議的組成部分。因此，被告有權(quán)依據(jù)合同約定對(duì)涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。

平臺(tái)的審查及處理結(jié)果應(yīng)有合理依據(jù)

本案中，原告主張涉案內(nèi)容并非AI生成內(nèi)容，被告對(duì)涉案內(nèi)容的審查及處理違反平臺(tái)服務(wù)協(xié)議，在一般情況下，原告應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù)，但本案中原告回答內(nèi)容系即時(shí)性創(chuàng)作文本，在客觀上無(wú)法提供上述證據(jù)，由其提供上述證據(jù)亦不存在合理性和現(xiàn)實(shí)可行性。而被告基于算法工具的運(yùn)算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論，被告既是算法工具掌控方又是結(jié)果判斷方，算法工具運(yùn)算過(guò)程和審查結(jié)果由被告掌控，在此情況下，被告應(yīng)就該事實(shí)進(jìn)行合理舉證或解釋說(shuō)明。

雖然被告在本案中提供了算法的備案信息，但公示內(nèi)容顯示該算法功能為識(shí)別有安全風(fēng)險(xiǎn)的回答，無(wú)法認(rèn)定其系對(duì)AI生成合成識(shí)別判斷的技術(shù)，故無(wú)法確認(rèn)備案信息與本案爭(zhēng)議的關(guān)聯(lián)性，因此被告未對(duì)涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋。此外，被告對(duì)人工復(fù)核程序的解釋為需要非常明顯的人類情感特征才能駁回算法決策結(jié)果，而該判斷標(biāo)準(zhǔn)更多依賴主觀認(rèn)識(shí)和個(gè)人經(jīng)驗(yàn)，并不具有科學(xué)依據(jù)以及較強(qiáng)的說(shuō)服力和可信度。

綜上，被告未對(duì)算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說(shuō)明，應(yīng)對(duì)其沒有事實(shí)依據(jù)的情況下對(duì)涉案賬戶的處理行為承擔(dān)違約責(zé)任。被告系統(tǒng)后臺(tái)僅存在“折疊回答”這一條處理記錄，現(xiàn)因該處理已在本案中被判定為不合規(guī)，被告應(yīng)對(duì)該處理記錄予以刪除。對(duì)“禁言1天”的處理沒有后臺(tái)記錄，原告主張刪除沒有事實(shí)依據(jù)，法院對(duì)該訴訟請(qǐng)求不予支持。

判決被告展開對(duì)于涉案內(nèi)容的隱藏，刪除在后臺(tái)的違規(guī)處理記錄。駁回原告的其他訴訟請(qǐng)求。

目前，該案判決已生效

03? 法官說(shuō)法?????????????

生成式人工智能技術(shù)在內(nèi)容的生成合成方面展現(xiàn)了巨大的能量和潛力，為數(shù)字經(jīng)濟(jì)發(fā)展注入強(qiáng)大動(dòng)力。與此同時(shí)，在AI生成合成內(nèi)容未進(jìn)行“AI標(biāo)識(shí)”的情況下，公眾難以區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，利用AI實(shí)施詐騙、侵權(quán)等違法犯罪的行為不斷攀升。AI生成合成內(nèi)容標(biāo)識(shí)作為對(duì)人工智能生成內(nèi)容監(jiān)管的有益工具和必要手段，會(huì)對(duì)凈化網(wǎng)絡(luò)內(nèi)容環(huán)境和網(wǎng)絡(luò)空間治理起到一定積極作用。本案對(duì)于平臺(tái)運(yùn)用算法工具進(jìn)行AI生成合成內(nèi)容治理引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛裁判作出以下探索：

網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)有權(quán)利用算法工具對(duì)用戶發(fā)布的內(nèi)容是否使用AI生成合成進(jìn)行審查和處理。平臺(tái)通過(guò)用戶協(xié)議、社區(qū)規(guī)范、處罰規(guī)則等明確告知用戶需要遵守AI生成合成內(nèi)容標(biāo)識(shí)規(guī)定，如用戶違反有關(guān)規(guī)定，平臺(tái)可對(duì)違規(guī)行為進(jìn)行處理。

若網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)判定用戶發(fā)布的內(nèi)容為AI生成合成，用戶需要提供證明該內(nèi)容系人類創(chuàng)作的初步證據(jù)，人民法院可結(jié)合創(chuàng)作形式、內(nèi)容、載體等因素綜合調(diào)整用戶的舉證責(zé)任，并認(rèn)定證據(jù)的證明效力。

網(wǎng)絡(luò)用戶提供初步證據(jù)后，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)應(yīng)舉證證明其使用算法工具進(jìn)行判定的正確性或進(jìn)行必要限度的解釋說(shuō)明，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)不得僅以涉及商業(yè)秘密為由規(guī)避該義務(wù)。

對(duì)于算法解釋的司法審查應(yīng)符合比例原則。一般情況下，平臺(tái)無(wú)需提供技術(shù)細(xì)節(jié)、源代碼或原始數(shù)據(jù)，而需圍繞案件爭(zhēng)議事實(shí)以可理解的方式舉證或說(shuō)明算法運(yùn)行機(jī)制、對(duì)應(yīng)可能出現(xiàn)的誤判是否采取了合理的救濟(jì)措施。

來(lái)源：北京互聯(lián)網(wǎng)法院