接手案子時(shí)感到“本領(lǐng)恐慌”？檢察官辦涉AI案件要成為“全科生”

圖片來源：攝圖網(wǎng)

本文為《方圓》雜志原創(chuàng)稿件

未經(jīng)授權(quán)，禁止轉(zhuǎn)載

近兩年

司法實(shí)踐中出現(xiàn)一大波“AI首例案”

目前，法院受理的

涉人工智能（AI）案件總量不算太多

但增長速度非常快

在司法實(shí)踐推進(jìn)人工智能

法律制度體系構(gòu)建過程中

站在浪潮一線的檢察官們

是如何從“很懵”成長為“全科生”的？

AI知識(shí)產(chǎn)權(quán)糾紛案增長迅速

北京互聯(lián)網(wǎng)法院于2023年11月判決的“李某訴劉某侵害作品署名權(quán)、信息網(wǎng)絡(luò)傳播權(quán)糾紛案”，被媒體稱為“中國首例AI生成圖片著作權(quán)侵權(quán)案”，入選了“2023年中國法治實(shí)施十大事件”。

2023年2月24日，繪畫作品創(chuàng)作愛好者李某使用Stable Diffusion模型，通過在模型上輸入提示詞，設(shè)置相關(guān)迭代步數(shù)、圖片高度、提示詞引導(dǎo)系數(shù)以及隨機(jī)數(shù)種子等，生成了數(shù)張人像圖。隨后，李某將圖片發(fā)布在某社交平臺(tái)上。同年3月2日，一自媒體賬號(hào)在另一平臺(tái)發(fā)布的文章中使用了李某的這些圖片。李某發(fā)現(xiàn)后提出，對(duì)方未獲得他的許可就截掉了他添加的某平臺(tái)上署名水印進(jìn)行發(fā)布，侵犯了其署名權(quán)及信息網(wǎng)絡(luò)傳播權(quán)。法院經(jīng)審理最終支持了李某的主張。

案件判決書指出，李某是直接根據(jù)需要對(duì)涉案人工智能模型進(jìn)行相關(guān)設(shè)置并最終選定涉案圖片的人，涉案圖片是基于原告的智力投入直接產(chǎn)生，體現(xiàn)出了原告的個(gè)性化表達(dá)，因此李某是涉案圖片的作者，享有涉案圖片的著作權(quán)。涉案圖片符合“作品”的定義，屬于美術(shù)作品，受到著作權(quán)法的保護(hù)。

法院認(rèn)可了AI使用者李某的涉案圖片作者的身份及其著作權(quán)，這一論斷在當(dāng)時(shí)引發(fā)了很大的爭(zhēng)論。有人支持，認(rèn)為AI必將對(duì)“人類創(chuàng)造”造成顛覆性影響，知識(shí)產(chǎn)權(quán)法律自然也不可能例外。也有人對(duì)AI生成物能否構(gòu)成“作品”持懷疑態(tài)度。

不久之后，在北京互聯(lián)網(wǎng)法院審理的另一案件中，我們看到一些類似情形和不同的判決。

原告周某是一位內(nèi)容創(chuàng)作者，其主張自己在與被告北京某科技公司合作創(chuàng)業(yè)期間，獨(dú)立使用AI繪畫軟件創(chuàng)作完成一款“某貓”圖，并在微信群聊中公開發(fā)表。在雙方未就涉案圖片的使用達(dá)成合意的情況下，周某于2023年10月發(fā)現(xiàn)被告公司未經(jīng)許可擅自在多平臺(tái)使用“某貓”圖片進(jìn)行宣傳。周某認(rèn)為，被告公司的做法侵犯了其權(quán)益。

但周某的主張并未得到法院的支持。判決書給出了詳細(xì)的判決理由，其中一條說：周某并未提交涉案圖片在AI軟件中的創(chuàng)作過程記錄，無法展現(xiàn)周某使用該工具生成涉案圖片的具體過程……在案證據(jù)不足以認(rèn)定涉案圖片具有獨(dú)創(chuàng)性，涉案圖片不構(gòu)成著作權(quán)法意義上的“作品”。

表面上看，這兩起涉AI案的判決，一個(gè)認(rèn)可了AI使用者的著作權(quán)，一個(gè)沒有認(rèn)可。法院并沒有因?yàn)锳I站在“科技浪潮尖兒”上就對(duì)其過分寬容，而是表現(xiàn)出嚴(yán)格依法、足夠理性的專業(yè)素養(yǎng)。周某沒能獲得法院的支持，是因其不能證明著作權(quán)法規(guī)定的“涉案圖片具有獨(dú)創(chuàng)性”。李某獲得支持，是因?yàn)槠淠軌蜃C明了自己的“個(gè)性化表達(dá)”。

北京大成律師事務(wù)所高級(jí)合伙人、律師肖颯說，在學(xué)術(shù)上，AI生成的結(jié)果是否能被評(píng)價(jià)為著作權(quán)法意義上的“作品”是有爭(zhēng)議的。當(dāng)前較主流觀點(diǎn)及司法實(shí)踐傾向認(rèn)為，需要考察人類參與者在其生成過程中進(jìn)行“個(gè)性化”“智力創(chuàng)作”的程度，即作品是否具備獨(dú)創(chuàng)性、能否體現(xiàn)創(chuàng)作者的智力成果。

使用AI軟件對(duì)有原創(chuàng)者的作品進(jìn)行“改圖”，則是另一類AI糾紛矛盾的多發(fā)情況。2024年2月，廣州互聯(lián)網(wǎng)法院判決的“涉奧特曼形象案”被媒體稱之為“中國法院作出全球首例生成式AI服務(wù)侵犯著作權(quán)的生效判決”。

原告上海新某文化發(fā)展有限公司是一家動(dòng)漫IP代理商，擁有奧特曼系列形象在中國大陸（不包括港澳臺(tái)地區(qū)）的著作權(quán)獨(dú)占授權(quán)。被告是一家涉AIGC業(yè)務(wù)的網(wǎng)絡(luò)公司，在這家網(wǎng)絡(luò)公司的平臺(tái)上，會(huì)員用戶可以通過充值使用專屬的AI繪畫功能。用戶只要輸入簡(jiǎn)單的關(guān)鍵詞，就可得到相應(yīng)的圖片。新某公司發(fā)現(xiàn)，在被告提供的AI繪畫功能中，輸入如“畫一個(gè)什么樣的奧特曼”“奧特曼融合某角色”等詞后，會(huì)生成奧特曼形象圖片、奧特曼身體拼接其他形象等圖片。新某公司認(rèn)為，其中的奧特曼物料侵犯了該公司的復(fù)制權(quán)、改編權(quán)及信息網(wǎng)絡(luò)傳播權(quán)。

法院認(rèn)定，被告的行為構(gòu)成對(duì)案涉奧特曼作品的復(fù)制和改編，網(wǎng)絡(luò)公司作為AI服務(wù)提供者應(yīng)當(dāng)盡到合理的注意義務(wù)。

網(wǎng)絡(luò)公司被法院認(rèn)定侵權(quán)但罰金數(shù)額并不高。法院判決書強(qiáng)調(diào)，人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)，是新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，被認(rèn)為是發(fā)展新質(zhì)生產(chǎn)力的主要陣地。考慮到生成式人工智能產(chǎn)業(yè)正處于發(fā)展的初期，需要同時(shí)兼顧權(quán)利保障和產(chǎn)業(yè)發(fā)展，不宜過度加重服務(wù)提供者的義務(wù)。

很多評(píng)論者認(rèn)為，此案的社會(huì)意義和法律意義遠(yuǎn)大于其經(jīng)濟(jì)罰金，法院首先要依法保護(hù)創(chuàng)作者的合法權(quán)益，但也體現(xiàn)出司法對(duì)于AI技術(shù)與服務(wù)緊盯其規(guī)范化發(fā)展同時(shí)審慎保護(hù)的態(tài)度。

這起侵權(quán)案中，網(wǎng)絡(luò)公司作為服務(wù)者錯(cuò)在沒盡到“注意義務(wù)”，無論是主觀上的過錯(cuò)還是客觀上的損害行為都是以“服務(wù)者”為主體的，即糾紛的根源終究在于人，案中的AI只是一款工具。

相似的道理同樣出現(xiàn)在北京市通州區(qū)法院2025年6月13日判決的利用AI技術(shù)侵犯著作權(quán)案中。

這兩起案子都涉及利用AI繪圖軟件“二創(chuàng)”是否構(gòu)成新作品的問題。

肖颯認(rèn)為，判斷的核心在于，創(chuàng)作行為本身是否融入了足以形成新作品的“獨(dú)創(chuàng)性”表達(dá)。“微調(diào)”與受法律保護(hù)的“再創(chuàng)作”之間最根本的區(qū)別在于后者是否對(duì)原作品增添了具有獨(dú)創(chuàng)性的新表達(dá)、新構(gòu)思或新的藝術(shù)價(jià)值。若“二創(chuàng)”后的圖片、視頻等與原作品構(gòu)成實(shí)質(zhì)性相似，但未超出原作品表達(dá)的范疇，可能侵害原作品著作權(quán)人的復(fù)制權(quán)等相關(guān)權(quán)項(xiàng)；若“二創(chuàng)”后的圖片并非僅系對(duì)原作品表達(dá)的單純?cè)佻F(xiàn)，而是形成了具有獨(dú)創(chuàng)性的新作品，也可能侵害原作品著作權(quán)人的改編權(quán)。

不斷出臺(tái)規(guī)范AI使用的法律文件

由上述案件可見，AI服務(wù)者和使用者的合法規(guī)范行為，是現(xiàn)階段突出的一個(gè)問題，AI侵權(quán)案件的增加和執(zhí)法司法需要，給相關(guān)機(jī)關(guān)提出了完善規(guī)則的要求。

為規(guī)范AI服務(wù)，2023年4月11日，國家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，該辦法要求AI服務(wù)的提供者使用合法來源的數(shù)據(jù)、保護(hù)知識(shí)產(chǎn)權(quán)和個(gè)人信息以及在內(nèi)容生成上明確標(biāo)識(shí)深層合成的圖片和視頻。同時(shí)，服務(wù)提供者需防范未成年人過度沉迷，并建立投訴舉報(bào)機(jī)制等。

AI的高效性與算法推薦機(jī)制正在重構(gòu)平臺(tái)責(zé)任邊界，因而有專業(yè)學(xué)者提出，傳統(tǒng)的“避風(fēng)港原則”可能需要調(diào)整以回應(yīng)技術(shù)變革。

2025年9月1日，由國家網(wǎng)信辦聯(lián)合工信部等部門發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正是對(duì)該趨勢(shì)的回應(yīng)。該辦法規(guī)定所有由AI生成的文字、圖片、視頻等必須打上水印，帶上AI生成的身份標(biāo)識(shí)，讓用戶可以清楚地知道自己所看的內(nèi)容是AI生成的。對(duì)于內(nèi)容發(fā)布者不主動(dòng)標(biāo)識(shí)AI生成內(nèi)容的行為，部分平臺(tái)表示會(huì)采取限流、下架、封號(hào)等措施。

這兩部法規(guī)文件的出臺(tái)，標(biāo)志著我國在AIGC的治理上逐步構(gòu)建起從基礎(chǔ)服務(wù)規(guī)范到具體內(nèi)容標(biāo)識(shí)的全鏈條監(jiān)管體系，為AI技術(shù)的合規(guī)發(fā)展劃定了一定紅線，也為社會(huì)的有效監(jiān)督提供了法律依據(jù)，努力推動(dòng)AIGC技術(shù)在法治軌道上行進(jìn)。

對(duì)于未來涉AI知識(shí)產(chǎn)權(quán)立法可以考慮哪些內(nèi)容，江蘇省太倉市檢察院經(jīng)濟(jì)犯罪、職務(wù)犯罪檢察部副主任熊輝給出一些建議：AI生成作品是否能成為著作權(quán)法中保護(hù)的“作品”、AI生成作品的“原創(chuàng)性”定義、AI生成作品的版權(quán)歸屬問題、合理使用范圍（如AI訓(xùn)練是否屬于合理使用）、侵權(quán)認(rèn)定標(biāo)準(zhǔn)、如何劃分平臺(tái)責(zé)任以及專利法中對(duì)AI發(fā)明的處理等。

“技術(shù)本身是把‘雙刃劍’，AI尤其如此。面對(duì)AI的沖擊，法律不會(huì)退縮，而是要進(jìn)化。”熊輝說，“知識(shí)產(chǎn)權(quán)法的核心是保護(hù)人的創(chuàng)造性價(jià)值”。

從“很懵”到“全科生”的AI檢察官

上海市虹口區(qū)檢察院檢察官正在研究涉AI類案件的案情。（來源：受訪者供圖）

在司法實(shí)踐推進(jìn)人工智能法律制度體系構(gòu)建過程中，檢察官和律師都是站在浪潮一線的人。

“剛接手案子時(shí)，面對(duì)的是AIGC軟件、技術(shù)黑箱、提示詞……這些全新的東西。”辦理“北京市第一起利用AI侵犯著作權(quán)刑事案件”的北京市通州區(qū)檢察院檢察官仇怡然說，辦理這類新型案件遇到的困難的確不少。

上海市徐匯區(qū)檢察院人工智能綜合履職團(tuán)隊(duì)檢察官助理陸倩慧也有相同的感受：“剛接到一起利用AIGC實(shí)施犯罪新型案件的最直觀感受就是‘很懵’，我在筆記本上寫滿了從來沒有接觸過的新技術(shù)新知識(shí)，第一次真實(shí)地感受到‘本領(lǐng)恐慌’。對(duì)這類案件，檢察人員需要鍛造數(shù)字思維和科技素養(yǎng)，成為既懂法律業(yè)務(wù)也通技術(shù)的‘全科生’。”

該團(tuán)隊(duì)檢察官龔笑婷曾辦理了全國首例生成式AI制作淫穢物品牟利案，她說：“第一次接觸這類案子，有種很新的感覺，這種感覺來源于辦案思路的重建。”

檢察官不僅要在辦案中解決新問題，還需及時(shí)總結(jié)經(jīng)驗(yàn)，歸納分析、推動(dòng)治理。

龔笑婷說：“涉AI刑事案件的辦理，在引導(dǎo)公安機(jī)關(guān)取證、罪與非罪的界定思路等方面，與以往大相徑庭，比如AI涉黃案中，軟件用戶、服務(wù)提供者，還有AI到底是誰的‘行為’觸犯了刑法，而在接入AI后，服務(wù)提供者的安全審核義務(wù)和法律邊界到底在哪里，都需要我們一再論證。”

2025年10月，上海市徐匯區(qū)檢察院與上海市公安局徐匯分局聯(lián)合發(fā)布《生成式人工智能刑事案件電子數(shù)據(jù)取證與審查指引》。這是上海司法機(jī)關(guān)首次針對(duì)生成式AI犯罪領(lǐng)域系統(tǒng)構(gòu)建的電子數(shù)據(jù)取證與審查規(guī)范，標(biāo)志著AI犯罪治理邁入標(biāo)準(zhǔn)化、體系化探索的新階段，也是他們對(duì)一段時(shí)間以來辦案經(jīng)驗(yàn)的落地。

辦理AI涉黃案中，檢察官還發(fā)現(xiàn)開發(fā)涉黃AI聊天機(jī)器人的企業(yè)未備案、未做安全評(píng)估，遂向?qū)俚鼐W(wǎng)信辦制發(fā)檢察建議，推動(dòng)AI技術(shù)合規(guī)向善發(fā)展。

對(duì)涉AI案件進(jìn)行積極探索的，還有上海市虹口區(qū)檢察院的網(wǎng)絡(luò)檢察綜合履職辦公室。近年來，他們綜合運(yùn)用辦理刑事、公益訴訟案件，制發(fā)檢察建議等多種方式參與AI治理。

上海市虹口區(qū)檢察院檢察官賴琛琛說，2025年以來，各種AI工具的更新升級(jí)速度極快，已經(jīng)不同于之前AI洗稿軟件這樣低級(jí)別的AIGC技術(shù)，因此也更容易滋生利用AI新技術(shù)進(jìn)行犯罪的黑灰產(chǎn)業(yè)鏈。從網(wǎng)絡(luò)空間治理的角度來看，打擊涉人工智能黑灰產(chǎn)業(yè)鏈相關(guān)犯罪，必須通過技術(shù)、法律、宣傳等多維度協(xié)同，以遏制其蔓延，從而保證技術(shù)向善發(fā)展。

因此，檢察機(jī)關(guān)需加強(qiáng)與網(wǎng)信部門、公安機(jī)關(guān)、版權(quán)局等部門的協(xié)作，形成多部門聯(lián)動(dòng)的機(jī)制，更有效地收集線索，共享信息，聯(lián)合執(zhí)法辦案。例如，建立跨部門的數(shù)據(jù)共享平臺(tái)，利用大數(shù)據(jù)分析來發(fā)現(xiàn)異常賬號(hào)或行為模式，及時(shí)查處。通過對(duì)AI生成內(nèi)容的檢測(cè)分析，以及平臺(tái)賬號(hào)的大規(guī)模異常操作，如短時(shí)間內(nèi)大量發(fā)布同類內(nèi)容、流量異常等，提升網(wǎng)絡(luò)空間治理能力。

成立專門的AI檢察官團(tuán)隊(duì)

為了積極研究涉AI法律問題，2025年5月12日，上海市徐匯區(qū)檢察院專門成立了一支人工智能履職團(tuán)隊(duì)。

“團(tuán)隊(duì)目前17個(gè)人，專職4位。4位已從原來的業(yè)務(wù)部門‘脫產(chǎn)’完全投入涉AI法律問題研究。”當(dāng)《方圓》記者聽到該團(tuán)隊(duì)介紹時(shí)還是十分驚訝。

對(duì)業(yè)務(wù)量巨大的徐匯區(qū)檢察院來說，把4位檢察官抽調(diào)出來絕非易事，尤其是目前，尚在發(fā)展初期的AI領(lǐng)域還不可能給團(tuán)隊(duì)提供較多的案件。

“我們覺得，那并不遙遠(yuǎn)。我們必須做一些準(zhǔn)備。”分管團(tuán)隊(duì)的徐匯區(qū)檢察院副檢察長張愛菁說，“團(tuán)隊(duì)是由檢察長朱慶華親自抓起來的，這個(gè)團(tuán)隊(duì)的檢察官都是檢察院的精干力量，我們集全院力量予以支持。”

“希望通過成立一支隊(duì)伍，打造一個(gè)平臺(tái)，使我們檢察系統(tǒng)的年輕一代能夠拓寬國際視野，增強(qiáng)交流合作，培養(yǎng)更多人工智能領(lǐng)域?qū)＜倚蜋z察人才，助力徐匯區(qū)成為人工智能建設(shè)高地。”徐匯區(qū)檢察院黨組書記、檢察長朱慶華說。

徐匯區(qū)檢察院的前瞻眼光根植于上海經(jīng)濟(jì)發(fā)展的前沿基礎(chǔ)，也基于自身實(shí)力。上海“模速空間”大模型創(chuàng)新生態(tài)社區(qū)，是全國首個(gè)大模型創(chuàng)新生態(tài)社區(qū)。

2024年4月，徐匯區(qū)檢察院的檢察監(jiān)督服務(wù)平臺(tái)就入駐“模速空間”，與之前入駐的算力調(diào)度、開放數(shù)據(jù)、評(píng)測(cè)服務(wù)、金融服務(wù)、綜合服務(wù)五大功能平臺(tái)一同依法平等保護(hù)AI產(chǎn)業(yè)發(fā)展。平臺(tái)剛成立，徐匯區(qū)檢察院即向大模型企業(yè)發(fā)布了人工智能大模型企業(yè)風(fēng)險(xiǎn)防控指南。以AI大模型產(chǎn)業(yè)健康發(fā)展為目標(biāo)，以AI大模型企業(yè)為適用對(duì)象，突出預(yù)防性治理，對(duì)安全內(nèi)控機(jī)制、語料治理與隱私防護(hù)、網(wǎng)絡(luò)空間安全、知識(shí)產(chǎn)權(quán)保護(hù)、涉外風(fēng)險(xiǎn)等內(nèi)容作了闡述。

2025年4月29日，習(xí)近平總書記在“模速空間”大模型創(chuàng)新生態(tài)社區(qū)調(diào)研時(shí)指出：“人工智能技術(shù)加速迭代，正迎來爆發(fā)式發(fā)展，上海要總結(jié)好以大模型產(chǎn)業(yè)生態(tài)體系孵化人工智能產(chǎn)業(yè)等成功經(jīng)驗(yàn)，加大探索力度，力爭(zhēng)在人工智能發(fā)展和治理各方面走在前列，產(chǎn)生示范效應(yīng)。”

2025年10月23日，黨的二十屆四中全會(huì)審議通過的《中共中央關(guān)于制定國民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃的建議》明確提出，“加快人工智能等數(shù)智技術(shù)創(chuàng)新”“全面實(shí)施‘人工智能+’行動(dòng)”“全方位賦能千行百業(yè)”“加強(qiáng)人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則。完善監(jiān)管，推動(dòng)平臺(tái)經(jīng)濟(jì)創(chuàng)新和健康發(fā)展”。

10月31日，大檢察官研討班在國家檢察官學(xué)院舉辦。最高人民檢察院黨組書記、檢察長應(yīng)勇在開班式上講話時(shí)強(qiáng)調(diào)，要完整準(zhǔn)確全面貫徹新發(fā)展理念，統(tǒng)籌發(fā)展和安全，全面履行各項(xiàng)檢察職能，為推進(jìn)中國式現(xiàn)代化提供有力法治保障。著眼《中共中央關(guān)于制定國民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃的建議》對(duì)建設(shè)現(xiàn)代化產(chǎn)業(yè)體系、加快高水平科技自立自強(qiáng)等方面部署，加強(qiáng)原始創(chuàng)新、關(guān)鍵核心技術(shù)知識(shí)產(chǎn)權(quán)和科技創(chuàng)新主體合法權(quán)益司法保護(hù)，更好地服務(wù)推動(dòng)高質(zhì)量發(fā)展。

人工智能時(shí)代已經(jīng)到來，知識(shí)產(chǎn)權(quán)法等法律法規(guī)要做好調(diào)整的準(zhǔn)備，檢察機(jī)關(guān)也是。

（本文有刪減，更多內(nèi)容請(qǐng)關(guān)注《方圓》11月上期）

本文雜志原標(biāo)題：《AI狂奔時(shí)代，法律如何當(dāng)好“守門員”？》

編輯丨黃莎設(shè)計(jì)丨劉巖

記者丨王麗 涂思敏

通訊員丨潘志凡 朱陸奇 王曉陽

往期精彩

點(diǎn)擊圖片

購買《方圓》雜志

好看的人都點(diǎn)了在看