Agentic AI：審計與治理的新挑戰

在現代數字世界中，身份治理所涉及的已不僅僅是連接數據庫及其他系統的員工、承包商和服務賬戶。這一新興領域充斥著非人類身份（NHI）——從API密鑰、服務賬戶到云角色和機器人流程自動化（RPA）程序，不一而足。然而，這一格局仍在快速演變，一位新的參與者正登上舞臺：自主型AI。

所謂自主型AI (Agentic AI)，是指能夠基于情境自主做出高級決策、主動采取行動并動態調整行為的系統。這類系統的能力類似于基于大語言模型（LLM）的智能代理、自動部署代碼的自治工具，或是能根據威脅情報自行調整安全配置的AI掃描器。

自主型AI給審計與治理職能帶來了日益嚴峻的挑戰，主要因其決策過程通常缺乏清晰的溯源性。這種透明度的缺失會削弱問責制，也讓組織難以滿足合規要求。盡管如此，那些認識到自主型AI風險并采取主動措施的組織，將更有可能在享受技術紅利的同時，贏得信任、提升聲譽。

這一技術變革也重新定義了審計的角色。過去，我們只需回答“誰做了什么”；如今，當某個操作是由AI系統而非人類直接發起時，我們必須進一步追問：“為什么會這么做？”

自主型AI有何特別之處？

自主型AI指的是無需人類直接干預即可自主決策和執行任務的系統。與依賴固定規則的傳統自動化不同，這類AI能理解復雜目標、規劃解決方案，并根據環境變化靈活調整策略——換句話說，它具備“主動性”。這種能力在過去十年間迅速發展。早期的AI系統只能運行預設腳本，靈活性極低；而大語言模型（LLM）的出現則成為轉折點：它們不僅能理解并生成類人語言，還能跨任務推理、依據上下文采取行動。

隨著技術成熟，自主型AI已從被動響應轉向主動解決問題，在極少監督的情況下完成任務。相比之下，傳統的非人類身份（如數據庫服務賬號、API密鑰或AWS Lambda角色）行為相對可預測，功能邊界明確，權限固定。而自主型AI的行為更像一名人類員工：你交給它一個任務或問題，它會自己決定如何解決。這種轉變給管理、審計和治理帶來了前所未有的復雜性。

自主型AI能夠：

• 動態串聯工具和API

• 自動生成和部署代碼

• 創建新身份來執行任務

• 實時做出訪問權限決策

• 實時修改基礎設施配置

更關鍵的是，除非特別編程記錄，否則這些AI通常不會留下可供人類理解的決策邏輯。這種“黑箱”特性對企業與審計人員都構成了巨大挑戰：

• 對企業而言，難以解釋AI為何做出某項決定，影響運營監管、信任建立和責任歸屬；

• 對審計人員來說，缺乏清晰、可追蹤的決策路徑，使得評估合規性、發現錯誤或偏見、確保履行法規義務變得幾乎不可能。

沒有可解讀的日志或理由說明，雙方都如同在迷霧中前行，增加了失控風險、法律糾紛和聲譽損害的可能性。

為何自主型AI打破了傳統審計模型

以下幾種情景凸顯了審計師在這個AI增強的世界中面臨的新困境。這些情景雖是假設，但隨著該技術在組織中日益普及，它們很容易成為現實。

情景1：自我編寫并提升權限的腳本

某企業使用一個自主型AI優化系統性能。為達成目標，該AI決定重寫一段配置腳本，并請求提高后端系統的API調用頻率。為此，它參考過往成功經驗，自行臨時提升了權限。

事后審計發現，某個服務賬戶曾短暫獲得高權限達30分鐘。但翻遍記錄，既無工單申請，也無人工審批，只有一條日志：“為完成任務，臨時提升權限?！?/p>

那么，是誰批準的？答案是：AI自己。

這暴露了一個根本性問題：責任鏈條斷裂。傳統系統中，權限提升需經過明確流程（如工單、變更審批、主管授權），形成可驗證的審計軌跡。而當AI在無人參與、無文檔記錄的情況下自主授予權限時，整個審計體系便形同虛設。

自主型AI系統（Agentic AI systems）具備高級決策能力，包括主動發起行動以及根據具體情境進行適應性調整。

情景2：隱形的僵尸網絡風險

某DevOps團隊使用一個AI智能體根據使用模式自動擴展微服務。在此過程中，該智能體生成了數百個新容器，每個容器都有自己的身份，并連接到內部API。結果，該組織的身份清單一夜之間激增，這些臨時身份具有以下特點：

• 從未經過正式審查

• 未標記所有者

• 在身份與訪問治理（IAG）工具采取行動前就已消失

在審計期間，這導致身份生命周期軌跡出現巨大缺口——對于大多數此類身份，沒有關于其配置、所有權、訪問理由或回收的記錄。這一缺口破壞了治理與合規，并引發一個關鍵問題：組織如何確保AI智能體沒有泄露敏感數據、訪問未授權資源或違反內部政策？

情景3：誰授予了什么訪問權限？為什么？

一個負責知識管理的自主型AI，在分析新上線AI助手的任務需求后，自動為其開通了讀取權限，全程未走任何審批流程。

從審計角度看，此舉違背了“職責分離”原則。但AI堅稱：“技術上合理?！?當被追問原因時，它回答：“為完成用戶目標，必須獲取該權限?！?/p>

由于AI繞過了既定流程，其決策邏輯又無法在合規報告中清晰還原，導致組織陷入兩難：既無法否認其功能性，也無法證明其合規性。

帶來的審計問題

正如這些示例情景所示，IT專業人員正步入模糊的監管領域。審計師們正在努力應對：

• AI決策的歸屬？如果智能體采取自主行動，誰應負責？

• 如何證明意圖或風險模型？AI決策通常是概率性的且不透明。

• 當動態、臨時的身份在幾分鐘內被創建和銷毀時，組織如何跟蹤其生命周期和使用情況？

• 什么樣的日志才算充分？決策樹是否足夠，還是必須要求智能體推理的完全可追溯性？

• 智能體本身是否需要具備可審計性？智能體是否應附帶界定其范圍和約束的數字合同？

解決這些關于AI在身份生命周期管理和可審計性方面問責制的關鍵問題，對于應對自主型AI帶來的監管挑戰至關重要。這樣做能使組織確保合規、維護安全并建立信任，同時釋放自主系統的全部潛力。清晰的框架和透明的監督將把不確定性轉化為機遇，使AI既能創新又能被負責任地治理。

自主型AI時代的治理現代化

審計非人類身份本就復雜，因為這些身份通常在幾乎沒有人類監督的情況下運行，通常缺乏明確的所有權或文檔化的審批工作流。這使得準確跟蹤其創建、使用、更新（權限、屬性等變更）和停用變得困難。為保持領先，組織在利用AI的自主系統時，必須重新思考身份治理。

為構建針對自主型AI系統的穩健治理，組織必須確保這些系統遵循與任何其他人類用戶或服務賬戶類似的文檔化賬戶注冊流程。AI系統采取的每一個行動都應通過審計線索記錄，該線索應捕獲行動的發起者（無論是人、應用程序還是AI智能體）以及行動原因。

為維持信任并滿足合規要求，治理框架必須與技術革新同步發展。這要求組織實施能適應AI驅動身份動態和自主特性的新工作流。組織需要采用能夠進行實時監控和情境分析的更智能工具。最重要的是，審計師在審計自主型AI系統時，需要從根本上轉變思維模式。這些智能體身份是能夠獨立決策并產生相應行動的智能參與者。認識到這一點意味著要以與任何關鍵組織利益相關者同等的嚴謹度和監督力度來對待這些身份，確保在AI環境中的問責制、透明度和控制力。

此外，智能體邏輯應被視為代碼，在版本控制下維護，并接受與業務邏輯同等嚴格的審計，以確保透明度和問責制。日志系統也必須進化，不僅要記錄發生了什么，還要記錄每個決策背后的意圖，捕獲輸入、決策路徑甚至被否決的備選方案，以提供智能體推理的全貌。最后，應強制執行AI遏制策略，以限制智能體可以訪問或創建的內容，并內置監督機制，在越界時觸發警報或審查。

結論

我們已經進入這樣一個時代：云計算基礎設施可能由并未被直接編程的系統搭建、修改甚至保護，而這些系統的決策邏輯卻難以被人輕易解釋。這是一個令人振奮卻又充滿挑戰的新紀元。

非人類身份的審計原本就已復雜重重，如今面對自主型AI，審計不再只是回溯“發生了什么”，更要探究“為什么會發生”——而這背后的驅動力，是一個不斷進化的軟件代理的內在邏輯。

要維系信任、滿足合規，治理就必須跟上技術創新的步伐。這意味著需要新的流程、更智能的工具，更重要的是——一種全新的思維方式。

今天的數字身份，早已超越了“人”與“機器”的范疇。它們是能思考、會決策的“智能體”。我們必須以相應的嚴謹態度去對待它們，方能在釋放AI潛能的同時，守住安全與責任的底線。

作者：Nirupam Samanta

來源：ISACA

編輯：孫哲

目前190000+人已關注我們，您還等什么？