歐盟發(fā)布《生成式AI展望報(bào)告》

2025年6月10日，歐盟委員會(huì)聯(lián)合研究中心（JRC）發(fā)布《生成式人工智能（GenAI）展望報(bào)告：探索技術(shù)、社會(huì)和政策的交集》報(bào)告，概述了當(dāng)前GenAI技術(shù)能力、新興趨勢(shì)，并分析了對(duì)經(jīng)濟(jì)、社會(huì)的影響。

報(bào)告指出，GenAI為醫(yī)療保健、教育、科學(xué)和創(chuàng)意產(chǎn)業(yè)等多個(gè)領(lǐng)域的進(jìn)步提供了多種機(jī)會(huì)。與此同時(shí)，GenAI也帶來了重大挑戰(zhàn)，包括放大錯(cuò)誤信息、偏見、勞動(dòng)力中斷和隱私問題。所有這些問題都是跨領(lǐng)域的，因此，GenAI的快速發(fā)展需要多學(xué)科方法來全面理解其影響。

報(bào)告認(rèn)為，GenAI有可能在歐盟產(chǎn)生重大的社會(huì)和經(jīng)濟(jì)影響，需要一種全面和細(xì)微的政策方法來應(yīng)對(duì)挑戰(zhàn)和機(jī)遇，同時(shí)確保技術(shù)發(fā)展與民主價(jià)值觀和歐盟法律框架完全一致。

該報(bào)告的具體內(nèi)容概述如下。

一、GenAI參與者的全球圖景是如何的？

報(bào)告指出，目前GenAI活動(dòng)在數(shù)字生態(tài)系統(tǒng)中占據(jù)越來越大的份額，有超過7.2萬組織開展了與GenAI相關(guān)的研究出版、創(chuàng)新（專利申請(qǐng)）以及商業(yè)和投資活動(dòng)，這些活動(dòng)總數(shù)超過了14.9萬項(xiàng)。

在所有這些組織和活動(dòng)中，中國(guó)總占比最高（60%），其次是美國(guó)（11%）。其中在GenAI出版物方面，2023年中國(guó)的數(shù)量近6000個(gè)，幾乎是排名第二的歐盟的二倍。

在GenAI專利申請(qǐng)方面，2009-2023年中國(guó)排第一，占比80%，美國(guó)排第二，占比7%。在500強(qiáng)AI超級(jí)計(jì)算機(jī)的數(shù)量方面，中國(guó)超200個(gè)，美國(guó)134個(gè)，歐盟50個(gè)，不過在計(jì)算方面，美國(guó)占據(jù)了主導(dǎo)地位，例如最近部署的超級(jí)計(jì)算機(jī)中，美國(guó)最先進(jìn)的xAI Colossus僅憑其自身就集成了多達(dá)20萬個(gè)AI芯片。

此外，在商業(yè)領(lǐng)域，目前美國(guó)仍然是GenAI全球商業(yè)創(chuàng)新和部署的中心，如OpenAI、Anthropic、Google DeepMind和Microsoft等公司部署了GPT-4、Claude 3.5和Gemini Ultra等。在GenAI的國(guó)外投資方面，美國(guó)排第一，例如擁有所有權(quán)（指持有超過50%的股權(quán)）的全球外資GenAI公司中，美國(guó)占比24%，歐盟占8%，日本排第三，中國(guó)只有2%。

二、GenAI的未來趨勢(shì)是如何的？

報(bào)告認(rèn)為，評(píng)估GenAI模型和GenAI的網(wǎng)絡(luò)安全是GenAI政策的重要關(guān)注方向。

在評(píng)估方面，目前主要有基準(zhǔn)測(cè)試和對(duì)抗性測(cè)試，未來主要有以下幾個(gè)發(fā)展趨勢(shì)：對(duì)GenAI評(píng)估進(jìn)行基準(zhǔn)測(cè)試的新方法將蓬勃發(fā)展，包括透明度和對(duì)其實(shí)際衡量?jī)?nèi)容的清晰評(píng)估；對(duì)智能體GenAI系統(tǒng)安全性評(píng)估的關(guān)注將加強(qiáng)；人類將繼續(xù)在GenAI評(píng)估中發(fā)揮關(guān)鍵作用；評(píng)估超越人類的能力以及人類無法知曉或察覺的安全問題的需求將變得越來越重要；推動(dòng)建立GenAI評(píng)估科學(xué)。

在GenAI網(wǎng)絡(luò)安全方面，報(bào)告認(rèn)為，GenAI系統(tǒng)容易受到傳統(tǒng)網(wǎng)絡(luò)安全威脅和AI特有漏洞的影響，例如數(shù)據(jù)和模型中毒、對(duì)抗性攻擊以及生成內(nèi)容被濫用于惡意目的。由于依賴第三方數(shù)據(jù)和模型，這些挑戰(zhàn)更加嚴(yán)峻。因此未來需要采取多方面的方法，結(jié)合傳統(tǒng)軟件風(fēng)險(xiǎn)管理與AI特定策略，并考慮完整的攻擊面和AI工件，包括數(shù)據(jù)和模型。

此外，從GenAI技術(shù)本身的發(fā)展來看，報(bào)告認(rèn)為未來的趨勢(shì)主要包括：智能體AI，即自主系統(tǒng)獨(dú)立決策并從結(jié)果中學(xué)習(xí)；多模態(tài)AI，即整合多種數(shù)據(jù)格式，增強(qiáng)多功能性，但也帶來偏見挑戰(zhàn)；高級(jí)AI推理，即通過分析復(fù)雜信息并得出邏輯結(jié)論來增強(qiáng)決策能力；AI的可解釋性，即強(qiáng)調(diào)AI系統(tǒng)越來越需要提供以人類可理解的方式解釋其輸出。

三、GenAI對(duì)經(jīng)濟(jì)的影響有哪些？

報(bào)告認(rèn)為，GenAI有望改變制造業(yè)、零售、醫(yī)療保健、創(chuàng)意產(chǎn)業(yè)等。GenAI，尤其是智能體AI預(yù)計(jì)將通過利用先進(jìn)的數(shù)據(jù)分析技術(shù)，實(shí)現(xiàn)智能生產(chǎn)線，從而改變制造業(yè)（汽車、電子、消費(fèi)品等）。

智能體AI還將通過自主和自適應(yīng)決策，對(duì)預(yù)測(cè)性維護(hù)產(chǎn)生顛覆性影響。零售商正在使用GenAI分析消費(fèi)者行為、預(yù)測(cè)趨勢(shì)并定制營(yíng)銷策略。

醫(yī)生通過GenAI提高診斷的準(zhǔn)確性，實(shí)現(xiàn)患者個(gè)性化護(hù)理，還能通過分析海量數(shù)據(jù)集來檢測(cè)模式并預(yù)測(cè)疾病進(jìn)展，從而幫助早期診斷和治療規(guī)劃。

在創(chuàng)意產(chǎn)業(yè)中，GenAI能夠使藝術(shù)家和設(shè)計(jì)師通過分析受眾偏好和趨勢(shì)創(chuàng)作創(chuàng)新作品。

GenAI對(duì)勞動(dòng)力市場(chǎng)也將帶來重要影響。GenAI帶來了與工作崗位流失和不平等相關(guān)的挑戰(zhàn)，但也為提高生產(chǎn)力和穩(wěn)定就業(yè)提供了巨大的潛力。政策制定者和組織必須謹(jǐn)慎應(yīng)對(duì)這些動(dòng)態(tài)，以最大限度地發(fā)揮GenAI的優(yōu)勢(shì)，同時(shí)降低其風(fēng)險(xiǎn)。

四、GenAI對(duì)社會(huì)的影響有哪些？

GenAI對(duì)社會(huì)的影響是多方面的，包括帶來公民和勞動(dòng)力技能（尤其是數(shù)字技能）差距變化、AI素養(yǎng)培養(yǎng)需求增加、信息操控風(fēng)險(xiǎn)、媒體報(bào)道分化、數(shù)字公共資源版權(quán)爭(zhēng)議、環(huán)境問題、兒童權(quán)利挑戰(zhàn)、心里健康問題、強(qiáng)化文化偏見、隱私和數(shù)據(jù)保護(hù)等。

報(bào)告指出，AI和GenAI復(fù)制某些人類技能的傾向會(huì)導(dǎo)致技能替代，同時(shí)也新增了對(duì)數(shù)字和數(shù)據(jù)技能、橫向技能、AI素養(yǎng)等技能的進(jìn)一步需求。歐盟為此計(jì)劃在2025年底推出“數(shù)字能力框架”3.0版。一些國(guó)家近年還增加了AI和GenAI學(xué)位課程數(shù)量。

報(bào)告還指出，GenAI模型正在徹底改變內(nèi)容創(chuàng)作方式，它使快速、大規(guī)模地生成極具說服力的操縱性內(nèi)容變得異常簡(jiǎn)單。除了內(nèi)容創(chuàng)作，GenAI還可以用于大規(guī)模的系統(tǒng)性數(shù)據(jù)投毒，例如，污染免費(fèi)和開放的知識(shí)庫或放大在線新聞和社交媒體的傳播。

另外，媒體對(duì)GenAI的描述往往兩極分化，烏托邦式的愿景強(qiáng)調(diào)其變革潛力，而反烏托邦式的擔(dān)憂則警告其倫理影響、工作取代和隱私問題。這種雙重?cái)⑹滤茉炝斯苍捳Z，并可能影響全球的政策觀念。

AI對(duì)環(huán)境的影響也不容忽視，AI模型特別是GenAI和大型語言模型需要大量的計(jì)算資源，導(dǎo)致高能耗、高用水量和高礦產(chǎn)開采。據(jù)估計(jì)，到2027年，美國(guó)預(yù)計(jì)約有5000個(gè)數(shù)據(jù)中心，歐洲約有2000個(gè)數(shù)據(jù)中心，其電力需求將增加50%，到2030年將增加103%-165%。

GenAI為兒童權(quán)利帶來了機(jī)遇和挑戰(zhàn)。一方面，它有潛力提高創(chuàng)造力、溝通能力和信息獲取能力，另一方面它也帶來了重大風(fēng)險(xiǎn)，例如欺騙性操縱、基于AI的有害內(nèi)容以及隱私和安全的缺失。

AI聊天機(jī)器人和AI伴侶可能會(huì)給用戶帶來各種心理健康問題，如成癮的行為、尋求認(rèn)可的傾向，在某些情況下甚至?xí)膭?lì)諸如自殘和飲食失調(diào)等有害行為。此外，數(shù)字偽造的潛力又增加了一層情感風(fēng)險(xiǎn)，可能會(huì)給受此類行為影響的人帶來困擾。

GenAI系統(tǒng)可能會(huì)延續(xù)現(xiàn)有的偏見和刻板印象，特別是如果它們接受反映歷史和系統(tǒng)不平等的數(shù)據(jù)集的訓(xùn)練。例如，在性別詞匯關(guān)聯(lián)任務(wù)中，最新的模型仍然將女性名字與“家”和“家庭”等傳統(tǒng)角色關(guān)聯(lián)起來，而將男性名字與“商業(yè)”和“事業(yè)”關(guān)聯(lián)起來。在AI圖像生成中，女性通常被描繪成年輕且具有順從的姿態(tài)，而男性則顯得年長(zhǎng)且更具權(quán)威性。在招聘中，AI算法被發(fā)現(xiàn)更青睞男性候選人，而不是同樣合格的女性候選人。

五、GenAI對(duì)教育的影響有哪些？

報(bào)告認(rèn)為，GenAI與教育系統(tǒng)的整合正在改變學(xué)習(xí)、教學(xué)和評(píng)估的格局，其創(chuàng)新有可能重塑甚至顛覆教育和培訓(xùn)。例如，目前GenAI應(yīng)用程序可以根據(jù)現(xiàn)有內(nèi)容生成視頻或文本學(xué)習(xí)材料，使教師能夠?yàn)閷W(xué)生打造個(gè)性化的學(xué)習(xí)體驗(yàn)。此外，AI系統(tǒng)可以充當(dāng)合作伙伴、共同設(shè)計(jì)者、蘇格拉底式的對(duì)手或激勵(lì)者，幫助學(xué)生發(fā)展思維。GenAI還能應(yīng)用于教育管理和決策。

為了確保有效且負(fù)責(zé)任地使用GenAI，政策制定者、教育工作者和學(xué)生必須共同努力，發(fā)展支持其融入教育系統(tǒng)所需的能力和政策。這其中AI素養(yǎng)就是重要的能力之一，歐盟委員會(huì)和OECD正在開發(fā)中小學(xué)AI素養(yǎng)框架，，最終版計(jì)劃在2026年初發(fā)布。

報(bào)告認(rèn)為，教育工作者在促進(jìn)學(xué)習(xí)者的數(shù)字能力（包括人工智能素養(yǎng)）方面發(fā)揮著至關(guān)重要的作用，并支持他們從數(shù)字技術(shù)機(jī)遇中受益，同時(shí)應(yīng)對(duì)挑戰(zhàn)和風(fēng)險(xiǎn)。這可以通過以下方式實(shí)現(xiàn)：教師培訓(xùn)——確保他們接受有效培訓(xùn)，將AI融入教學(xué)實(shí)踐；課程更新——AI技術(shù)，包括其倫理、社會(huì)和社會(huì)層面，應(yīng)納入教育課程；教育專用AI模型——開發(fā)像EdGPT這樣的系統(tǒng)來支持學(xué)習(xí)和教學(xué)；應(yīng)對(duì)AI特有的挑戰(zhàn)——教育工作者需要能夠解決數(shù)據(jù)使用、數(shù)據(jù)隱私、信息偏見和平等訪問等問題。

報(bào)告同時(shí)也指出，盡管GenAI的影響力日益增強(qiáng)，但仍然迫切需要嚴(yán)謹(jǐn)?shù)膶?shí)證證據(jù)來進(jìn)一步了解其對(duì)教育實(shí)踐的影響，特別是關(guān)于它是否能夠有效改善教學(xué)和學(xué)習(xí)，以及它對(duì)評(píng)估的影響。

從目前的研究現(xiàn)狀來看，教育領(lǐng)域GenAI的研究主要集中在WEIRD（西方、教育水平高、工業(yè)化、富裕和民主）國(guó)家，缺乏拉丁美洲和非洲代表；另外大多數(shù)研究集中在高等教育，需要對(duì)其他教育領(lǐng)域進(jìn)行更多的研究；研究主題集中于GenAI在考試和任務(wù)中的評(píng)估及其在教育中的一般性應(yīng)用，對(duì)倫理問題（如負(fù)責(zé)任地使用GenAI及其對(duì)學(xué)術(shù)誠(chéng)信的潛在影響）和技術(shù)問題，關(guān)注相對(duì)較少。

為此，報(bào)告建議：教育政策應(yīng)支持教育領(lǐng)域的GenAI研究，確保個(gè)人的權(quán)利和主權(quán)，并處理技術(shù)決定論和道德標(biāo)準(zhǔn)之間的緊張關(guān)系；應(yīng)制定政策確保學(xué)術(shù)和教育的誠(chéng)信，并修改課程以系統(tǒng)地整合有關(guān)AI的教育。

六、GenAI對(duì)科學(xué)的影響有哪些？

報(bào)告認(rèn)為，GenAI正在重塑科學(xué)研究各個(gè)流程：

提出問題（或進(jìn)行觀察）——GenAI可以通過幫助研究人員（尤其是新手）完善和理解研究背景，從而徹底改變這一過程。如整合文獻(xiàn)，突出模式和差距，從而幫助提出創(chuàng)造性問題。AI還可以自主生成研究目標(biāo)或假設(shè)，有效地“觀察”現(xiàn)象，加速問題的提出，并拓展科學(xué)好奇心。然而，它也可能無意中強(qiáng)化主流敘事，限制對(duì)新想法的探索。

文獻(xiàn)綜述——GenAI工具和系統(tǒng)（如Elicit、Scite和Scopus AI）通過整合文獻(xiàn)搜索、檢索和總結(jié)，徹底改變了這一流程。盡管仍存在一些擔(dān)憂，但GenAI可以促進(jìn)跨學(xué)科理論基礎(chǔ)的獲取。此外，快速生成復(fù)雜研究論文摘要或以對(duì)話方式回答問題的能力可以幫助研究人員消化比以往更多的信息。然而，研究人員必須面對(duì)可能出現(xiàn)的不準(zhǔn)確性和幻覺。

構(gòu)建假設(shè)——GenAI通過識(shí)別數(shù)據(jù)和文獻(xiàn)中的模式，支持構(gòu)建基于證據(jù)的合理假設(shè)。GenAI協(xié)助重新構(gòu)架問題，識(shí)別盲點(diǎn)，并提出與研究目標(biāo)一致的結(jié)構(gòu)化、可驗(yàn)證的陳述。GenAI憑借逐步邏輯等功能，支持假設(shè)構(gòu)建，但可能會(huì)忽略需要人類專業(yè)知識(shí)才能獲得的洞見。

通過實(shí)驗(yàn)來檢驗(yàn)假設(shè)——GenAI可自動(dòng)化實(shí)驗(yàn)設(shè)計(jì)、代碼生成和執(zhí)行，確保從假設(shè)到分析的無縫銜接。AI有助于控制變量和識(shí)別模式，從而提高實(shí)驗(yàn)結(jié)果的準(zhǔn)確性。

分析數(shù)據(jù)——GenAI可以通過處理數(shù)據(jù)集、應(yīng)用統(tǒng)計(jì)方法和生成可視化來加速這一流程。PROTEUS和Agent Laboratory等工具使用大預(yù)言模型推理自動(dòng)化工作流程。AI可跨領(lǐng)域輔助編碼、建模和模式發(fā)現(xiàn)。GenAI提高了解讀的清晰度和速度，但透明度和可靠性是關(guān)鍵。

根據(jù)假設(shè)的接受或拒絕得出結(jié)論——GenAI工具有助于總結(jié)結(jié)果并將其與假設(shè)進(jìn)行比對(duì)。另外，有助于解釋輸出結(jié)果、起草結(jié)論并識(shí)別不一致之處。但由于存在偏見和過度自信等風(fēng)險(xiǎn)，需要人工驗(yàn)證。如果以負(fù)責(zé)任的方式集成，GenAI可以支持對(duì)研究結(jié)果的反思，并鼓勵(lì)改進(jìn)假設(shè)。

交流研究結(jié)果——GenAI支持文稿起草、格式化、編輯和翻譯，從而提高清晰度和覆蓋面。ChatGPT等工具有助于構(gòu)建論文結(jié)構(gòu)、生成摘要和多語言報(bào)告。GenAI協(xié)助撰寫撥款申請(qǐng)書和進(jìn)行演示，修改文檔。高效、透明和監(jiān)督對(duì)于維護(hù)誠(chéng)信至關(guān)重要。最近的研究凸顯了GenAI在科學(xué)傳播中日益重要的作用：向非專業(yè)人士傳達(dá)科學(xué)研究和信息。這些功能包括幫助創(chuàng)建易于理解的摘要、交互式問答、自動(dòng)創(chuàng)建數(shù)據(jù)可視化和生成洞察（撰寫簡(jiǎn)短的數(shù)據(jù)驅(qū)動(dòng)故事）。然而，為了應(yīng)對(duì)錯(cuò)誤信息和公眾不信任的風(fēng)險(xiǎn)，需要人工監(jiān)督以確保準(zhǔn)確性和可信度。

構(gòu)建科學(xué)社群——GenAI促進(jìn)跨學(xué)科參與和包容性合作。GenAI工具彌合了語言和專業(yè)知識(shí)的差距，使參與更加民主化，并促進(jìn)了共同規(guī)范。雖然GenAI有助于能力建設(shè)和科研誠(chéng)信，但過分強(qiáng)調(diào)GenAI可能會(huì)掩蓋文化視角。

資料來源：

Navajas Cawood, E., Abendroth-Dias, K., Arias Cabarcos, P. et al. (2025) Generative AI outlook report: exploring the intersection of technology, society, and policy. Publications Office of the European Union. https://data.europa.eu/doi/10.2760/1109679

[本文為教育部國(guó)別和區(qū)域研究基地中國(guó)教育科學(xué)研究院國(guó)際教育研究中心研究成果]

本文由中國(guó)教育科學(xué)研究院“教育國(guó)際前沿”課題組成員整理，課題組負(fù)責(zé)人張永軍，編輯劉強(qiáng)，內(nèi)容僅供參考。點(diǎn)擊左下角“閱讀原文”可下載該文獻(xiàn)。