深度解析人工智能賦能網(wǎng)絡攻擊的威脅與對策

隨著人工智能能力的飛速發(fā)展，新興人工智能系統(tǒng)可能被用于策劃和執(zhí)行進攻性網(wǎng)絡空間行動，這一潛在威脅已引發(fā)全球高度關(guān)注。為此，蘭德公司于2025年11月發(fā)布了題為《直面人工智能與網(wǎng)絡安全的交織點》（Facing the Artificial Intelligence–Cyber Nexus）的研究報告，系統(tǒng)性地為政策制定者提供了一個結(jié)構(gòu)化方法，以理解并應對人工智能賦能網(wǎng)絡攻擊帶來的風險。報告強調(diào)，政策制定者應采取積極的預期性姿態(tài)，建立決策框架以預防或減輕這些新興威脅，而非被動地事后響應。啟元洞見編譯整理了其中的核心內(nèi)容，以供讀者參考。

一、引言：構(gòu)建前瞻性防御姿態(tài)

隨著人工智能能力的日益增強，新興的人工智能系統(tǒng)為進攻性網(wǎng)絡空間行動（Offensive Cyberspace Operations, OCOs）的實施提供了可能。報告旨在深入探討未來幾年人工智能在賦能進攻性網(wǎng)絡空間行動方面能力的擴展，并為政策制定者提供一個結(jié)構(gòu)化的決策指南。通過深入理解其所帶來的潛在風險，識別出最適于預防或減輕這些風險及其潛在影響的政策選項。闡述未來情景中影響決策的關(guān)鍵因素，確保政策制定者能夠基于對技術(shù)前景和國家安全影響的雙重深刻理解來做出審慎決策。

工作重點在于幫助政策制定者預見此類能力的出現(xiàn)，并采取一種更為積極的“預期性姿態(tài)”（anticipatory posture），而非在人工智能賦能的網(wǎng)絡攻擊發(fā)生后才被動應對。這種前瞻性的決策框架至關(guān)重要，因為人工智能賦能網(wǎng)絡攻擊的確切能力和出現(xiàn)時間線尚不明朗，但政策制定者必須預見到惡意行為者將利用人工智能進行網(wǎng)絡攻擊的必然趨勢，并為此提前建立決策框架以防范或緩解相關(guān)風險。

報告通過提供一系列指導性問題，旨在促進政策制定者的決策過程，并推動在私營部門合作、外交接觸、執(zhí)法、金融、商業(yè)、軍事及情報等多個領(lǐng)域的政策行動。最后，報告為政策制定者提供了下一步的行動建議，包括持續(xù)進行兵棋推演、擴充政府的人工智能專業(yè)知識庫和技術(shù)接入渠道等。

報告不涉及對已發(fā)生網(wǎng)絡攻擊（無論是否由人工智能驅(qū)動）的具體響應流程與考量。應對網(wǎng)絡攻擊的響應過程本身涉及一套復雜的程序和考慮因素，不是報告的探討范圍。報告核心目標是確保決策者在面對未來潛在威脅時，能夠基于對技術(shù)前景和國家安全影響的深刻理解來制定決策。

二、日益嚴峻的人工智能網(wǎng)絡威脅

近年來，能力日益強大的人工智能模型和智能體（agents）的出現(xiàn)，引發(fā)了人們對其潛在危害的廣泛擔憂。這些模型有可能極大地提升惡意行為者的能力——賦予他們原本不具備的技能，或擴大其造成傷害的規(guī)模。這種現(xiàn)象被稱作“能力提升”（uplift）。這種擔憂已延伸至多個領(lǐng)域，例如生物安全、大規(guī)模殺傷性武器的擴散，以及報告關(guān)注的焦點——由人工智能賦能的進攻性網(wǎng)絡空間行動。

當前，已有證據(jù)表明，即便是一些現(xiàn)有的大語言模型也能被用于輔助網(wǎng)絡攻擊的各個階段。例如，一份來自Anthropic的威脅情報報告詳細描述了老練的威脅行為者如何在長達9個月的攻擊活動中，利用當年早些時候發(fā)布的Claude Code智能體，在幾乎整個攻擊生命周期中實施Claude模型（Anthropic, 2025）。

隨著能力的提升，一些研究人員認為，在攻擊模型的早期階段（如偵察、資源開發(fā)）和后期階段（如影響——像記錄篡改），進攻性人工智能事件將會增加。這些發(fā)展將由更先進的人工智能技術(shù)驅(qū)動，這些技術(shù)能夠?qū)W習新的攻擊技巧、進行邏輯推理、規(guī)劃復雜的操作，并能與動態(tài)防御系統(tǒng)進行交互和自適應調(diào)整。在后續(xù)章節(jié)中，將提出一個用于評估和應對這些新興能力的框架。

三、應對人工智能賦能網(wǎng)絡攻擊的結(jié)構(gòu)化決策方法

為了有效應對人工智能賦能網(wǎng)絡攻擊的潛在威脅，報告提出了一個結(jié)構(gòu)化的決策方法。該方法旨在幫助政策制定者系統(tǒng)地分析問題，并確定最佳的應對策略。報告提供了一系列指導性問題，以輔助決策者在以下幾個關(guān)鍵領(lǐng)域進行思考和行動。

（一）私營部門合作（Private-Sector Engagement）

私營部門，尤其是人工智能模型開發(fā)者和云計算提供商，是應對人工智能濫用風險的第一道防線。政策制定者需要思考如何與這些關(guān)鍵參與者進行有效合作。

指導性問題：

1.政府應如何與人工智能開發(fā)者合作，以確保其模型在發(fā)布前經(jīng)過充分的安全評估，特別是針對被用于惡意網(wǎng)絡目的的風險評估？

2.應設立何種級別的安全標準和最佳實踐，以規(guī)范人工智能模型的開發(fā)和部署，防止其被惡意行為者利用？

3.如何建立一個有效的公私信息共享機制，以便及時通報關(guān)于濫用人工智能模型進行網(wǎng)絡攻擊的新技術(shù)、新動向？

4.是否需要通過立法或監(jiān)管手段，強制要求人工智能公司對其產(chǎn)品的安全性負責，并對因其產(chǎn)品被濫用而造成的損害承擔一定責任？

（二）外交接觸（Diplomatic Engagement）

人工智能賦能的網(wǎng)絡攻擊是全球性挑戰(zhàn)，需要通過國際合作來共同應對。外交途徑是建立國際規(guī)范、增強透明度和信任的關(guān)鍵。

指導性問題：

1.美國及其盟友應如何共同制定關(guān)于人工智能在網(wǎng)絡空間中軍事應用的國際準則或行為規(guī)范？

2.如何通過雙邊或多邊對話，與潛在的對手國家（如俄羅斯等）就人工智能在網(wǎng)絡攻擊中的使用界限進行溝通，以避免誤判和沖突升級？

3.是否可以建立一個國際性的人工智能安全事件響應網(wǎng)絡，協(xié)調(diào)各國在面對重大的人工智能驅(qū)動的網(wǎng)絡攻擊時的行動？

4.在國際條約或協(xié)議中，應如何定義“人工智能賦能的進攻性網(wǎng)絡空間行動”，并為其設定明確的紅線？

（三）執(zhí)法與金融制裁（Law Enforcement and Finance）

執(zhí)法機構(gòu)和金融制裁在全球范圍內(nèi)追蹤、威懾和懲罰惡意網(wǎng)絡行為者方面扮演著核心角色。將這些工具應用于人工智能領(lǐng)域是至關(guān)重要的。

指導性問題：

1.執(zhí)法部門需要哪些新的技術(shù)工具和法律授權(quán)，才能有效追蹤和溯源利用人工智能進行網(wǎng)絡犯罪的個人或組織？

2.如何利用金融制裁手段，打擊為開發(fā)或購買惡意人工智能工具提供資金支持的實體和個人？

3.現(xiàn)有的國際司法合作框架（如《布達佩斯網(wǎng)絡犯罪公約》）是否足以應對人工智能帶來的新挑戰(zhàn)？需要進行哪些更新？

4.如何防止惡意行為者利用加密貨幣和去中心化金融（DeFi）平臺來資助和隱藏其人工智能網(wǎng)絡攻擊活動？

（四）商業(yè)與貿(mào)易政策（Commerce）

商業(yè)和貿(mào)易政策，如出口管制，是限制關(guān)鍵技術(shù)流向惡意行為者的重要工具。隨著人工智能技術(shù)變得日益強大，如何管理其擴散情形成為一個緊迫問題。

指導性問題：

1.哪些類型的人工智能技術(shù)（例如，能夠自主發(fā)現(xiàn)和利用漏洞的人工智能系統(tǒng)）應被列入出口管制清單，以防止其落入敵對國家或恐怖組織之手？

2.在實施技術(shù)管制時，如何平衡國家安全需求與促進技術(shù)創(chuàng)新和保持經(jīng)濟競爭力之間的關(guān)系？

3.如何與盟國協(xié)調(diào)出口管制政策，以形成統(tǒng)一戰(zhàn)線，防止出現(xiàn)監(jiān)管漏洞？

4.對于開源人工智能模型，應采取何種不同于專有模型的管理策略，以在鼓勵開放研究的同時控制風險？

（五）軍事與情報行動（Military and Intelligence）

軍事和情報部門不僅是人工智能賦能網(wǎng)絡攻擊的潛在受害者，也是開發(fā)和利用此類技術(shù)來維護國家安全的關(guān)鍵力量。

指導性問題：

1.國防部門應如何發(fā)展自身的人工智能能力，以威懾、防御并在必要時響應敵方的人工智能網(wǎng)絡攻擊？

2.情報界需要哪些資源和權(quán)限來監(jiān)控和評估外國在進攻性人工智能網(wǎng)絡能力方面的發(fā)展？

3.在軍事行動中使用人工智能賦能的自主網(wǎng)絡武器系統(tǒng)時，應遵循何種交戰(zhàn)規(guī)則（Rules of Engagement）和倫理準則，以確保人類的有效控制？

4.如何將對人工智能網(wǎng)絡威脅的評估整合到整體國家軍事戰(zhàn)略和作戰(zhàn)規(guī)劃中？

四、結(jié)論與未來展望

人工智能賦能的進攻性網(wǎng)絡空間行動對全球安全構(gòu)成了新興且重大的挑戰(zhàn)。雖然這項技術(shù)的發(fā)展軌跡和最終形態(tài)尚不完全清晰，但其巨大的潛在破壞力要求政策制定者必須立即行動起來，采取一種積極主動、未雨綢繆的防御姿態(tài)。

報告提出的結(jié)構(gòu)化決策方法和指導性問題，旨在為政策制定者提供一個清晰的思考框架。通過系統(tǒng)性地審視私營部門合作、外交、執(zhí)法、商業(yè)、軍事和情報等多個政策領(lǐng)域，政府可以開始構(gòu)建一個全面、多層次的防御體系，以預防和減輕人工智能賦能網(wǎng)絡攻擊所帶來的風險。

未來的道路充滿不確定性，持續(xù)的兵棋推演、擴充政府內(nèi)部的人工智能專業(yè)知識、加強與學術(shù)界和產(chǎn)業(yè)界的合作將是必不可少的。面對人工智能與網(wǎng)絡安全的交織點，被動的等待和事后的響應將是遠遠不夠的。只有通過前瞻性的規(guī)劃、果斷的行動和廣泛的國際合作，才能確保在即將到來的人工智能時代中，有效維護網(wǎng)絡空間的安全與穩(wěn)定。

免責聲明：本文轉(zhuǎn)自啟元洞見。文章內(nèi)容系原作者個人觀點，本公眾號編譯/轉(zhuǎn)載僅為分享、傳達不同觀點，如有任何異議，歡迎聯(lián)系我們！

轉(zhuǎn)自丨啟元洞見

研究所簡介

國際技術(shù)經(jīng)濟研究所（IITE）成立于1985年11月，是隸屬于國務院發(fā)展研究中心的非營利性研究機構(gòu)，主要職能是研究我國經(jīng)濟、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經(jīng)濟發(fā)展態(tài)勢，為中央和有關(guān)部委提供決策咨詢服務。“全球技術(shù)地圖”為國際技術(shù)經(jīng)濟研究所官方微信賬號，致力于向公眾傳遞前沿技術(shù)資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er