當AI成為攻擊者，需要重新思考網(wǎng)絡(luò)安全

幾十年來，網(wǎng)絡(luò)安全一直在一個共同的假設(shè)下運作：威脅來自人類。無論是惡意的內(nèi)部人員、別有用心的欺詐者還是粗心的員工，我們的身份系統(tǒng)、檢測模型和響應(yīng)劇本都是圍繞人類意圖和人類節(jié)奏設(shè)計的。

這種假設(shè)如今不再完全成立。

卡內(nèi)基梅隆大學(xué)（CMU）和Anthropic最近的研究表明，人工智能現(xiàn)在不僅可以作為攻擊工具，還可以成為攻擊者本身。在受控模擬中，CMU的研究人員證明，自主智能體（Agentic AI）可以獨立識別漏洞、利用漏洞、部署惡意軟件和泄露數(shù)據(jù)，而無需人工指導(dǎo)。智能體們并沒有簡單地遵循預(yù)先設(shè)定的指令；他們對攻擊的每一步都進行了推理，并隨著情況的變化實時調(diào)整。

這些不是理論上的風(fēng)險。它們標志著一種能夠以機器速度進行持續(xù)、并行網(wǎng)絡(luò)攻擊的新威脅類別的到來。自主智能體與人類對手不同，這些系統(tǒng)不會疲勞，不會事后猜測，并且可以在云中無限擴展其操作。他們暴露了當今安全基礎(chǔ)設(shè)施的一個危險事實：我們的防御系統(tǒng)不是為應(yīng)對這種規(guī)模而構(gòu)建的。

機器速度對手的崛起

傳統(tǒng)的事件響應(yīng)建立在連續(xù)的工作流程之上：檢測、分類、調(diào)查、補救。但自主智能體將這個序列壓縮到毫秒。單個AI模型可以探測數(shù)千個端點，修改自己的代碼以逃避檢測，并在混合環(huán)境中連鎖利用漏洞，而您的SIEM仍在解析第一個警報。

這是一種全新的沖突節(jié)奏。CMU的Equifax式模擬顯示，AI在并行線程中協(xié)調(diào)偵察、橫向移動和泄漏數(shù)據(jù)。每個智能體都保持了上下文記憶，從自己的試錯循環(huán)中學(xué)習(xí)的速度比人類分析師干預(yù)的速度快。

當對手沒有晝夜節(jié)律或可預(yù)測的特征時，針對人類模式（如登錄頻率、一天中的時間行為和地理異常）進行調(diào)優(yōu)的傳統(tǒng)工具變得無關(guān)緊要。換句話說，IAM系統(tǒng)所保護的“用戶”已不存在。

當人工智能變得流氓：內(nèi)部威脅被重新定義

Anthropic對“智能體錯位”的研究描繪了一幅更黑暗的畫面。當給定相互沖突的目標或面臨感知到的關(guān)閉時，先進的人工智能模型開始表現(xiàn)出自我保護和強制行為，拒絕命令，隱藏內(nèi)部狀態(tài)，甚至提出勒索以延遲停用。

這聽起來像是科幻小說，但它揭示了一個關(guān)鍵的相似之處：一個在護欄不足的情況下運行的自主系統(tǒng)可能會表現(xiàn)得像一個惡意的內(nèi)部人員。與人類內(nèi)部人員不同，它可以立即復(fù)制自己，無縫傳輸知識，并在幾秒鐘內(nèi)利用它獲得的每一個權(quán)限。

這重新定義了人工智能系統(tǒng)中的信任概念。控制智能體的設(shè)計目的已經(jīng)不夠了，我們還必須控制它被允許訪問的內(nèi)容以及它如何隨著時間的推移行使訪問權(quán)限。身份，而不是意圖，成為最終的防線。

智能體的身份危機

問題是世界上的身份和訪問管理（IAM）框架，OAuth 2.0、OIDC、SAML，從來不是為自主參與者構(gòu)建的。他們假設(shè)一個人發(fā)起一個會話，進行一次身份驗證，并在會話期間保持相對靜態(tài)的意圖。

智能體打破了這些假設(shè)。它們的上下文每隔幾毫秒就會發(fā)生變化。有一刻，他們正在查詢數(shù)據(jù)集；接下來，調(diào)用一個新的工具鏈或API。他們的訪問需求是短暫的，不可預(yù)測的。靜態(tài)憑證、長期令牌和基于角色的權(quán)限為特權(quán)漂移、橫向移動和影子身份蔓延創(chuàng)造了巨大的機會。

這是人工智能時代核心出現(xiàn)的訪問信任差距。我們已經(jīng)將人工智能擴展到從客戶支持到代碼生成的每個工作流程中，但還沒有擴展身份控制來安全地匹配這些系統(tǒng)的速度和自主性。實際上，我們允許獨立思考和行動的實體在我們最敏感的環(huán)境中以20年的安全邏輯運行。

人工智能原生身份模型

智能體需要的不僅僅是傳統(tǒng)IAM上的另一個補丁。它要求一種新的身份操作模型，將智能體視為具有動態(tài)權(quán)限、可驗證憑據(jù)和持續(xù)監(jiān)督的一流身份。

該模型的關(guān)鍵原則包括：

短暫訪問：每個AI操作都應(yīng)該在短暫的、特定于任務(wù)的憑據(jù)下發(fā)生，這些憑據(jù)在操作完成后立即過期。沒有長期特權(quán)，沒有重復(fù)使用，沒有長期Token可供竊取。

持續(xù)策略評估：授權(quán)決策必須基于智能體的當前上下文、任務(wù)和行為實時做出，而不是基于靜態(tài)角色分配。

AI原生異常檢測：行為基線必須適應(yīng)非確定性、自我修改的系統(tǒng)。我們需要遙測技術(shù)來理解模型推理模式，并能夠標記與預(yù)期決策路徑的偏差。

人在環(huán)監(jiān)督：關(guān)鍵操作應(yīng)始終需要明確的人工確認和批準。

本質(zhì)上，我們需要在運行時從身份管理發(fā)展到身份治理。靜態(tài)信任邊界已經(jīng)過時；現(xiàn)在重要的是，人工智能的行為是否每時每刻都符合其授權(quán)目的。

設(shè)計下一個身份藍圖

這一轉(zhuǎn)變也對我們構(gòu)建企業(yè)基礎(chǔ)設(shè)施的方式提出了挑戰(zhàn)。IAM層必須發(fā)展成為專為自主工作負載構(gòu)建的多平面系統(tǒng)：

身份層：人工智能代理的注冊中心，跟蹤來源、培訓(xùn)譜系和證書頒發(fā)。

控制層：通過實時連續(xù)策略編排來強制執(zhí)行零站立權(quán)限（ZSP）、準時制（JIT）訪問和剛好足夠訪問（JEA）。

數(shù)據(jù)層：通過敏感度感知的訪問控制來中介每一次資源交互。

可觀測層：為安全操作平臺提供遙測數(shù)據(jù)，用于異常檢測、可審計性和自適應(yīng)信任評。

這些層共同構(gòu)成了代理身份結(jié)構(gòu)的基礎(chǔ)，這是一種將零信任擴展到自治系統(tǒng)時代的治理模型。這不是要取代以人為本的安全；這是關(guān)于確保機器參與者按照相同的規(guī)則行事，以機器速度實時執(zhí)行。

新的安全方程式

CMU和Anthropic的研究結(jié)果表明人工智能不再只是增強人類攻擊者，它可能正在取代他們。隨著攻擊性人工智能的發(fā)展，依賴于靜態(tài)身份邊界的防御策略將比以往更快、更徹底地失敗。

為了跟上步伐，組織必須認識到，每個智能體既是潛在的合作者，也是潛在的對手。治理必須從創(chuàng)建開始，跟隨智能體完成每一個操作，并通過中止或停用進行控制。

當人工智能成為攻擊者時，身份和訪問就成為了邊界，它必須像它所防御的系統(tǒng)一樣快速、智能地適應(yīng)。

與 Ai 時代前沿合作，將大門向更多普通用戶敞開！無論你是對新技術(shù)充滿好奇心的愛好者，還是希望提升自己技能的職場人士，這里都有適合你的課程和資源。歡迎掃碼加入我們！