接手案子時感到“本領恐慌”？檢察官辦涉AI案件要成為“全科生”

圖片來源：攝圖網

本文為《方圓》雜志原創稿件

未經授權，禁止轉載

近兩年

司法實踐中出現一大波“AI首例案”

目前，法院受理的

涉人工智能（AI）案件總量不算太多

但增長速度非常快

在司法實踐推進人工智能

法律制度體系構建過程中

站在浪潮一線的檢察官們

是如何從“很懵”成長為“全科生”的？

AI知識產權糾紛案增長迅速

北京互聯網法院于2023年11月判決的“李某訴劉某侵害作品署名權、信息網絡傳播權糾紛案”，被媒體稱為“中國首例AI生成圖片著作權侵權案”，入選了“2023年中國法治實施十大事件”。

2023年2月24日，繪畫作品創作愛好者李某使用Stable Diffusion模型，通過在模型上輸入提示詞，設置相關迭代步數、圖片高度、提示詞引導系數以及隨機數種子等，生成了數張人像圖。隨后，李某將圖片發布在某社交平臺上。同年3月2日，一自媒體賬號在另一平臺發布的文章中使用了李某的這些圖片。李某發現后提出，對方未獲得他的許可就截掉了他添加的某平臺上署名水印進行發布，侵犯了其署名權及信息網絡傳播權。法院經審理最終支持了李某的主張。

案件判決書指出，李某是直接根據需要對涉案人工智能模型進行相關設置并最終選定涉案圖片的人，涉案圖片是基于原告的智力投入直接產生，體現出了原告的個性化表達，因此李某是涉案圖片的作者，享有涉案圖片的著作權。涉案圖片符合“作品”的定義，屬于美術作品，受到著作權法的保護。

法院認可了AI使用者李某的涉案圖片作者的身份及其著作權，這一論斷在當時引發了很大的爭論。有人支持，認為AI必將對“人類創造”造成顛覆性影響，知識產權法律自然也不可能例外。也有人對AI生成物能否構成“作品”持懷疑態度。

不久之后，在北京互聯網法院審理的另一案件中，我們看到一些類似情形和不同的判決。

原告周某是一位內容創作者，其主張自己在與被告北京某科技公司合作創業期間，獨立使用AI繪畫軟件創作完成一款“某貓”圖，并在微信群聊中公開發表。在雙方未就涉案圖片的使用達成合意的情況下，周某于2023年10月發現被告公司未經許可擅自在多平臺使用“某貓”圖片進行宣傳。周某認為，被告公司的做法侵犯了其權益。

但周某的主張并未得到法院的支持。判決書給出了詳細的判決理由，其中一條說：周某并未提交涉案圖片在AI軟件中的創作過程記錄，無法展現周某使用該工具生成涉案圖片的具體過程……在案證據不足以認定涉案圖片具有獨創性，涉案圖片不構成著作權法意義上的“作品”。

表面上看，這兩起涉AI案的判決，一個認可了AI使用者的著作權，一個沒有認可。法院并沒有因為AI站在“科技浪潮尖兒”上就對其過分寬容，而是表現出嚴格依法、足夠理性的專業素養。周某沒能獲得法院的支持，是因其不能證明著作權法規定的“涉案圖片具有獨創性”。李某獲得支持，是因為其能夠證明了自己的“個性化表達”。

北京大成律師事務所高級合伙人、律師肖颯說，在學術上，AI生成的結果是否能被評價為著作權法意義上的“作品”是有爭議的。當前較主流觀點及司法實踐傾向認為，需要考察人類參與者在其生成過程中進行“個性化”“智力創作”的程度，即作品是否具備獨創性、能否體現創作者的智力成果。

使用AI軟件對有原創者的作品進行“改圖”，則是另一類AI糾紛矛盾的多發情況。2024年2月，廣州互聯網法院判決的“涉奧特曼形象案”被媒體稱之為“中國法院作出全球首例生成式AI服務侵犯著作權的生效判決”。

原告上海新某文化發展有限公司是一家動漫IP代理商，擁有奧特曼系列形象在中國大陸（不包括港澳臺地區）的著作權獨占授權。被告是一家涉AIGC業務的網絡公司，在這家網絡公司的平臺上，會員用戶可以通過充值使用專屬的AI繪畫功能。用戶只要輸入簡單的關鍵詞，就可得到相應的圖片。新某公司發現，在被告提供的AI繪畫功能中，輸入如“畫一個什么樣的奧特曼”“奧特曼融合某角色”等詞后，會生成奧特曼形象圖片、奧特曼身體拼接其他形象等圖片。新某公司認為，其中的奧特曼物料侵犯了該公司的復制權、改編權及信息網絡傳播權。

法院認定，被告的行為構成對案涉奧特曼作品的復制和改編，網絡公司作為AI服務提供者應當盡到合理的注意義務。

網絡公司被法院認定侵權但罰金數額并不高。法院判決書強調，人工智能是引領未來的戰略性技術，是新一輪科技革命和產業變革的核心驅動力，被認為是發展新質生產力的主要陣地。考慮到生成式人工智能產業正處于發展的初期，需要同時兼顧權利保障和產業發展，不宜過度加重服務提供者的義務。

很多評論者認為，此案的社會意義和法律意義遠大于其經濟罰金，法院首先要依法保護創作者的合法權益，但也體現出司法對于AI技術與服務緊盯其規范化發展同時審慎保護的態度。

這起侵權案中，網絡公司作為服務者錯在沒盡到“注意義務”，無論是主觀上的過錯還是客觀上的損害行為都是以“服務者”為主體的，即糾紛的根源終究在于人，案中的AI只是一款工具。

相似的道理同樣出現在北京市通州區法院2025年6月13日判決的利用AI技術侵犯著作權案中。

這兩起案子都涉及利用AI繪圖軟件“二創”是否構成新作品的問題。

肖颯認為，判斷的核心在于，創作行為本身是否融入了足以形成新作品的“獨創性”表達。“微調”與受法律保護的“再創作”之間最根本的區別在于后者是否對原作品增添了具有獨創性的新表達、新構思或新的藝術價值。若“二創”后的圖片、視頻等與原作品構成實質性相似，但未超出原作品表達的范疇，可能侵害原作品著作權人的復制權等相關權項；若“二創”后的圖片并非僅系對原作品表達的單純再現，而是形成了具有獨創性的新作品，也可能侵害原作品著作權人的改編權。

不斷出臺規范AI使用的法律文件

由上述案件可見，AI服務者和使用者的合法規范行為，是現階段突出的一個問題，AI侵權案件的增加和執法司法需要，給相關機關提出了完善規則的要求。

為規范AI服務，2023年4月11日，國家網信辦等七部門發布了《生成式人工智能服務管理暫行辦法》，該辦法要求AI服務的提供者使用合法來源的數據、保護知識產權和個人信息以及在內容生成上明確標識深層合成的圖片和視頻。同時，服務提供者需防范未成年人過度沉迷，并建立投訴舉報機制等。

AI的高效性與算法推薦機制正在重構平臺責任邊界，因而有專業學者提出，傳統的“避風港原則”可能需要調整以回應技術變革。

2025年9月1日，由國家網信辦聯合工信部等部門發布的《人工智能生成合成內容標識辦法》正是對該趨勢的回應。該辦法規定所有由AI生成的文字、圖片、視頻等必須打上水印，帶上AI生成的身份標識，讓用戶可以清楚地知道自己所看的內容是AI生成的。對于內容發布者不主動標識AI生成內容的行為，部分平臺表示會采取限流、下架、封號等措施。

這兩部法規文件的出臺，標志著我國在AIGC的治理上逐步構建起從基礎服務規范到具體內容標識的全鏈條監管體系，為AI技術的合規發展劃定了一定紅線，也為社會的有效監督提供了法律依據，努力推動AIGC技術在法治軌道上行進。

對于未來涉AI知識產權立法可以考慮哪些內容，江蘇省太倉市檢察院經濟犯罪、職務犯罪檢察部副主任熊輝給出一些建議：AI生成作品是否能成為著作權法中保護的“作品”、AI生成作品的“原創性”定義、AI生成作品的版權歸屬問題、合理使用范圍（如AI訓練是否屬于合理使用）、侵權認定標準、如何劃分平臺責任以及專利法中對AI發明的處理等。

“技術本身是把‘雙刃劍’，AI尤其如此。面對AI的沖擊，法律不會退縮，而是要進化。”熊輝說，“知識產權法的核心是保護人的創造性價值”。

從“很懵”到“全科生”的AI檢察官

上海市虹口區檢察院檢察官正在研究涉AI類案件的案情。（來源：受訪者供圖）

在司法實踐推進人工智能法律制度體系構建過程中，檢察官和律師都是站在浪潮一線的人。

“剛接手案子時，面對的是AIGC軟件、技術黑箱、提示詞……這些全新的東西。”辦理“北京市第一起利用AI侵犯著作權刑事案件”的北京市通州區檢察院檢察官仇怡然說，辦理這類新型案件遇到的困難的確不少。

上海市徐匯區檢察院人工智能綜合履職團隊檢察官助理陸倩慧也有相同的感受：“剛接到一起利用AIGC實施犯罪新型案件的最直觀感受就是‘很懵’，我在筆記本上寫滿了從來沒有接觸過的新技術新知識，第一次真實地感受到‘本領恐慌’。對這類案件，檢察人員需要鍛造數字思維和科技素養，成為既懂法律業務也通技術的‘全科生’。”

該團隊檢察官龔笑婷曾辦理了全國首例生成式AI制作淫穢物品牟利案，她說：“第一次接觸這類案子，有種很新的感覺，這種感覺來源于辦案思路的重建。”

檢察官不僅要在辦案中解決新問題，還需及時總結經驗，歸納分析、推動治理。

龔笑婷說：“涉AI刑事案件的辦理，在引導公安機關取證、罪與非罪的界定思路等方面，與以往大相徑庭，比如AI涉黃案中，軟件用戶、服務提供者，還有AI到底是誰的‘行為’觸犯了刑法，而在接入AI后，服務提供者的安全審核義務和法律邊界到底在哪里，都需要我們一再論證。”

2025年10月，上海市徐匯區檢察院與上海市公安局徐匯分局聯合發布《生成式人工智能刑事案件電子數據取證與審查指引》。這是上海司法機關首次針對生成式AI犯罪領域系統構建的電子數據取證與審查規范，標志著AI犯罪治理邁入標準化、體系化探索的新階段，也是他們對一段時間以來辦案經驗的落地。

辦理AI涉黃案中，檢察官還發現開發涉黃AI聊天機器人的企業未備案、未做安全評估，遂向屬地網信辦制發檢察建議，推動AI技術合規向善發展。

對涉AI案件進行積極探索的，還有上海市虹口區檢察院的網絡檢察綜合履職辦公室。近年來，他們綜合運用辦理刑事、公益訴訟案件，制發檢察建議等多種方式參與AI治理。

上海市虹口區檢察院檢察官賴琛琛說，2025年以來，各種AI工具的更新升級速度極快，已經不同于之前AI洗稿軟件這樣低級別的AIGC技術，因此也更容易滋生利用AI新技術進行犯罪的黑灰產業鏈。從網絡空間治理的角度來看，打擊涉人工智能黑灰產業鏈相關犯罪，必須通過技術、法律、宣傳等多維度協同，以遏制其蔓延，從而保證技術向善發展。

因此，檢察機關需加強與網信部門、公安機關、版權局等部門的協作，形成多部門聯動的機制，更有效地收集線索，共享信息，聯合執法辦案。例如，建立跨部門的數據共享平臺，利用大數據分析來發現異常賬號或行為模式，及時查處。通過對AI生成內容的檢測分析，以及平臺賬號的大規模異常操作，如短時間內大量發布同類內容、流量異常等，提升網絡空間治理能力。

成立專門的AI檢察官團隊

為了積極研究涉AI法律問題，2025年5月12日，上海市徐匯區檢察院專門成立了一支人工智能履職團隊。

“團隊目前17個人，專職4位。4位已從原來的業務部門‘脫產’完全投入涉AI法律問題研究。”當《方圓》記者聽到該團隊介紹時還是十分驚訝。

對業務量巨大的徐匯區檢察院來說，把4位檢察官抽調出來絕非易事，尤其是目前，尚在發展初期的AI領域還不可能給團隊提供較多的案件。

“我們覺得，那并不遙遠。我們必須做一些準備。”分管團隊的徐匯區檢察院副檢察長張愛菁說，“團隊是由檢察長朱慶華親自抓起來的，這個團隊的檢察官都是檢察院的精干力量，我們集全院力量予以支持。”

“希望通過成立一支隊伍，打造一個平臺，使我們檢察系統的年輕一代能夠拓寬國際視野，增強交流合作，培養更多人工智能領域專家型檢察人才，助力徐匯區成為人工智能建設高地。”徐匯區檢察院黨組書記、檢察長朱慶華說。

徐匯區檢察院的前瞻眼光根植于上海經濟發展的前沿基礎，也基于自身實力。上海“模速空間”大模型創新生態社區，是全國首個大模型創新生態社區。

2024年4月，徐匯區檢察院的檢察監督服務平臺就入駐“模速空間”，與之前入駐的算力調度、開放數據、評測服務、金融服務、綜合服務五大功能平臺一同依法平等保護AI產業發展。平臺剛成立，徐匯區檢察院即向大模型企業發布了人工智能大模型企業風險防控指南。以AI大模型產業健康發展為目標，以AI大模型企業為適用對象，突出預防性治理，對安全內控機制、語料治理與隱私防護、網絡空間安全、知識產權保護、涉外風險等內容作了闡述。

2025年4月29日，習近平總書記在“模速空間”大模型創新生態社區調研時指出：“人工智能技術加速迭代，正迎來爆發式發展，上海要總結好以大模型產業生態體系孵化人工智能產業等成功經驗，加大探索力度，力爭在人工智能發展和治理各方面走在前列，產生示范效應。”

2025年10月23日，黨的二十屆四中全會審議通過的《中共中央關于制定國民經濟和社會發展第十五個五年規劃的建議》明確提出，“加快人工智能等數智技術創新”“全面實施‘人工智能+’行動”“全方位賦能千行百業”“加強人工智能治理，完善相關法律法規、政策制度、應用規范、倫理準則。完善監管，推動平臺經濟創新和健康發展”。

10月31日，大檢察官研討班在國家檢察官學院舉辦。最高人民檢察院黨組書記、檢察長應勇在開班式上講話時強調，要完整準確全面貫徹新發展理念，統籌發展和安全，全面履行各項檢察職能，為推進中國式現代化提供有力法治保障。著眼《中共中央關于制定國民經濟和社會發展第十五個五年規劃的建議》對建設現代化產業體系、加快高水平科技自立自強等方面部署，加強原始創新、關鍵核心技術知識產權和科技創新主體合法權益司法保護，更好地服務推動高質量發展。

人工智能時代已經到來，知識產權法等法律法規要做好調整的準備，檢察機關也是。

（本文有刪減，更多內容請關注《方圓》11月上期）

本文雜志原標題：《AI狂奔時代，法律如何當好“守門員”？》

編輯丨黃莎設計丨劉巖

記者丨王麗 涂思敏

通訊員丨潘志凡 朱陸奇 王曉陽

往期精彩

點擊圖片

購買《方圓》雜志

好看的人都點了在看