紫金山實驗室課題負責人王鵬：以AI對抗AI，內生安全智能體筑牢多領域安全防線

傳統(tǒng)安全防護技術，相當于為系統(tǒng)配備一道防護門與監(jiān)控設備。其中，防護門僅能抵御已知漏洞與已知攻擊，若遭遇新型攻擊則可能失效；監(jiān)控設備僅能在安全事件發(fā)生后提供提醒，無法在事件發(fā)展過程中發(fā)揮有效的安全防護作用。這是傳統(tǒng)安全防護技術的核心技術路線，而我們的無人系統(tǒng)內生安全智能體，核心是通過大模型與內生安全技術的深度融合實現(xiàn)防護升級。

該系統(tǒng)的核心創(chuàng)新體現(xiàn)在三方面：其一為主動防御機制，具體通過三類智能體實現(xiàn)——邊界安全智能體如同人體皮膚，能夠阻擋大部分網(wǎng)絡攻擊的試探；內生主動防御智能體類似人體先天免疫，可實時抵御各類未知網(wǎng)絡攻擊；安全智能體仿若人體后天免疫，能讓安全防護能力隨威脅自動進化，持續(xù)增強，實現(xiàn)越用越優(yōu)。其二是極致輕量化設計，智能系統(tǒng)受成本因素限制，其所屬領域通常為安全防護預留的資源十分有限，在此背景下，我們的系統(tǒng)既強化了安全功能，又做到極致輕量化，無需占用過多資源，可無縫嵌入各類無人系統(tǒng)，這也是其能在無人系統(tǒng)領域廣泛應用的關鍵優(yōu)勢。

智能網(wǎng)聯(lián)汽車領域起步相對較早，我國已針對該領域發(fā)布網(wǎng)絡安全強制性國家標準，明確2026年起新上市車型需強制裝備相關網(wǎng)絡安全系統(tǒng)。目前紫金山實驗室已與上汽、賽力斯、比亞迪等頭部車企穩(wěn)步推進各類合作，相關技術已進入量產(chǎn)應用階段。除智能網(wǎng)聯(lián)汽車領域外，該系統(tǒng)還適用于低空經(jīng)濟領域（如無人機、飛行汽車等），這類設備在空中運行時若遭遇攻擊，可能引發(fā)嚴重后果，因此對安全防護要求極高；同時，在當前熱門的聚深智能領域（涵蓋工業(yè)服務機器人、生活服務機器人等），相關設備若存在安全隱患可能危害人身安全，我們的安全系統(tǒng)可以有效保障網(wǎng)絡與數(shù)據(jù)安全，發(fā)揮關鍵防護作用。

在系統(tǒng)產(chǎn)業(yè)化調研過程中，我們對智能網(wǎng)聯(lián)汽車網(wǎng)絡安全市場進行了專項分析：此前汽車領域因系統(tǒng)相對封閉，未出現(xiàn)明顯外部網(wǎng)絡攻擊問題，行業(yè)對網(wǎng)絡安全的關注度較低；但隨著智能化、網(wǎng)聯(lián)化進程加快，尤其是自動駕駛汽車逐步推廣普及，網(wǎng)絡安全問題愈發(fā)關鍵。為此，國際及我國均出臺相關強制性國家標準，將于2026年1月正式實施。從企業(yè)投入來看，標準發(fā)布前，每輛車的網(wǎng)絡安全與數(shù)據(jù)安全投入約為幾十元，標準實施后該投入將提升至數(shù)百元，由此推算，該領域網(wǎng)絡安全市場規(guī)模可達百億級別，市場空間廣闊。

在政策支持方面，我們的項目獲得了江蘇省產(chǎn)業(yè)院與紫金山集團聯(lián)合的“投融結合”項目支持，已于去年成立產(chǎn)業(yè)化公司——紫金智聯(lián)，并在大會上與紫金山集團、江蘇省產(chǎn)業(yè)院正式簽訂投資協(xié)議。目前，紫金智聯(lián)正全力推廣相關安全系統(tǒng)，除與頭部車企的量產(chǎn)合作外，還在與宇數(shù)科技等聚深智能領域頭部企業(yè)推進合作洽談。盡管聚深智能領域尚未出臺網(wǎng)絡安全與數(shù)據(jù)安全強制性標準，但隨著該領域規(guī)模化應用推進，預計國家將配套出臺相關標準，且當前國家各部委已開展相關籌備工作。

當前AI技術發(fā)展迅猛，對其在網(wǎng)絡攻擊領域的應用帶來兩大典型挑戰(zhàn)：一是攻擊智能化，傳統(tǒng)攻擊需攻擊者自行編寫程序、挖掘漏洞，過程耗時費力且效果有限，而AI賦能后，攻擊可自動化、智能化發(fā)現(xiàn)系統(tǒng)各類漏洞，導致攻擊發(fā)生速度極快、變異頻繁，防御難度大幅增加；二是攻擊門檻降低，傳統(tǒng)網(wǎng)絡攻擊需高水平黑客才能發(fā)現(xiàn)漏洞并實施破壞，如今借助AI攻擊工具，普通用戶也可實施網(wǎng)絡攻擊，使得攻擊門檻顯著下降。

針對這一現(xiàn)狀，內生安全智能體的設計核心思路是“以 AI對抗 AI”。面對傳統(tǒng)AI攻擊技術的快速變異，我們的智能體技術打造了具備學習、思考、決策與行動能力的內生安全防護系統(tǒng)，通過AI技術對抗AI攻擊，能夠有效抵御各類快速變異的AI驅動型攻擊。

段世靜