AI Agent落地“卡殼”？騰訊云用100毫秒沙箱打通“最后一公里”｜甲子光年

Agent跑起來，Infra先鋪路。

作者｜王藝

編輯｜栗子

2025年，Agent很忙。

上半年忙著比誰的模型更聰明，下半年忙著解決一個更現實的問題：怎么讓這些聰明的Agent真正“動起來”？

有些企業滿懷期待地引入“數字員工”，希望它們能自動完成數據整理、客戶服務、代碼編寫等重復性工作，然而現實卻頻頻“打臉”：任務執行到一半突然中斷，面對突發流量時響應遲緩，算力成本居高不下，甚至因為安全漏洞讓企業數據面臨風險。

這不是個別現象。據Gartner測算，2028年全球Agent市場規模將達到2850億美元，屆時15%的日常業務決策將由Agent自主完成，33%的企業軟件將原生嵌入Agentic AI能力；IDC則指出，2024年中國AI Agent軟件市場收入規模首次突破50億元人民幣，預計2028年將躍升至8520億元人民幣，2023~2028年復合年增長率高達72.7%。其中，面向企業端的應用長期占據98%以上份額。

但當這些在Demo中表現驚艷的Agent投入真實的高并發業務環境時，便頻頻陷入“跑不動、不安全、不兼容”的窘境。

問題的癥結在于：傳統云計算基礎設施與Agent的原生特征之間，存在著代際錯配。Agent的高自主性、長會話、突發負載等特點，難以被為傳統應用設計的架構所支撐。

于是，行業逐漸形成共識——“Agent跑起來，Infra先鋪路。”

Agent Infra，這個從技術后臺走向幕前的新賽道，正在成為決定AI Agent規模化落地的關鍵變量。

1.從AI Infra到Agent Infra：一場范式革命

要理解Agent Infra的價值，需要先看清楚AI應用正在經歷的范式轉變。

傳統AI應用追求的是“確定性”——輸入相同的數據，輸出相同的結果。

但Agent的出現打破了這一切。它具備不確定性、復雜性和自主性。想象你在使用一個傳統的數據分析軟件。你輸入同一份銷售數據，每次都會得到相同的報表，這就是確定性。

但當你換成Agent來做同樣的工作，情況就不一樣了。今天它可能重點分析地區差異，明天可能關注季節趨勢，后天又可能發現價格敏感性。

這種不確定性源于大模型的概率推理機制，讓Agent的行為難以精確預測。企業在應用Agent時必須接受這種不確定性，同時通過工程手段將其控制在可接受范圍內。

當這個Agent出現錯誤時，排查就成了一場偵探游戲——是因為你的提問方式（Prompt）有歧義？還是它從歷史對話（記憶）中提取了錯誤信息？抑或是調用的數據源（知識庫）本身就有問題？

在傳統軟件中，你可以單步調試、逐行排查；但在Agent系統中，這些組件像一團亂麻，相互影響又難以拆解。這就是復雜性，它讓傳統的調試方法失去用武之地。

最讓人擔心的是自主性。傳統軟件只會做你讓它做的事，但Agent會“自作主張”。它可能自己決定調用某個API、執行某段代碼、訪問某個網站。

這種能力讓它能夠處理復雜任務，但也帶來了風險：如果它被惡意提示詞誘導，可能做出危險操作；如果它對權限邊界理解錯誤，可能越權訪問敏感數據。

在傳統軟件的安全模型中，“自主行動”通常意味著系統被入侵了；但對Agent來說，自主行動恰恰是它的核心價值。如何讓這種自主性既強大又安全，是基礎設施必須解決的問題。

這三大特征并非孤立存在，它們相互交織，構成了AI Agent范式的核心。不確定性與復雜性是自主性的內在體現，而自主性則將前兩者帶來的風險具象化。

騰訊云產品團隊在思考Agent Infra的演進邏輯時，提出了一個核心觀點：云計算的發展史，就是在企業應用架構不斷演進的過程中，持續化解“偶然復雜度”的過程。從單體應用時代的IaaS，到微服務時代的容器治理平臺，再到大數據時代的一站式數據引擎，每一次技術躍遷都是為了讓開發者從基礎設施的繁瑣中解放出來，專注于業務創新。

云計算發展史，圖源：GeeksforGeeks

Agent時代同樣如此。當Agent需要執行代碼、訪問網絡、操作數據庫時，傳統的云基礎設施已經無法滿足其“高頻、輕量、突發、即時響應”的工作模式。

Agent Infra的出現，正是云計算對這一新型工作負載挑戰的必然回應。隨著AI競爭焦點從模型能力轉向基礎設施支撐能力，Agent Infra已成為全球云廠商爭奪的戰略高地。

在國際市場，三大云廠商已展現出鮮明的技術路徑和戰略側重。

• AWS憑借在云計算基礎設施領域的深厚積累，于今年7月推出Agent Core預覽版，它基于Lambda FaaS深度定制全托管運行時，提供記憶管理、身份驗證、代碼執行等工具，強調安全、可擴展和多Agent協作。值得注意的是，Agent Core專注于保障Agent運行，而非構建Agent本身。

• 微軟Azure選擇了生態協同的差異化路徑，在今年5月推出AI Foundry Agent Service，深度集成NVIDIA NIM微服務與AgentIQ工具包，形成從模型優化到Agent調度的全鏈路能力。依托Functions FaaS的事件驅動架構，它支持1小時長時運行與企業級IAM權限管理。

• 谷歌GCP則走輕量化與普適性路線，Vertex AI Agent Builder聚焦構建和管理多Agent系統，用低代碼降低了Agent開發門檻，讓企業無需深厚編程能力即可構建客服、HR問答等場景的智能體。

盡管技術路徑各異，但云廠商們都有一個共同的目標：為Agent提供更高彈性、更低延遲、更強安全、更長會話的保障，支撐其真正落地千萬級企業場景。

2.沙箱：Agent跑起來的第一道關

在Agent Infra的諸多能力中，沙箱是最關鍵的一環。它為Agent提供隔離、監控、記錄、約束的受控執行環境，是智能體與真實世界之間的安全邊界。

但問題在于，傳統沙箱太慢。

傳統虛擬機的啟動方式為長時間運行設計，動輒需要數秒甚至數十秒，對于需要即時響應的Agent來說，這種延遲是不可接受的。容器雖然啟動快，但隔離性不足，共享內核帶來的安全風險讓企業望而卻步。

騰訊云Agent Infra團隊的解決方案是：不在舊技術上“打補丁”，而是專門為Agent設計一套全新的底座——Cube（MicroVM Runtime）。

Cube并非從零開始。它源自騰訊云成熟的Serverless體系，每天承載著百億級調用。在Agent時代，這些經過大規模驗證的能力被系統性地引入沙箱服務。其核心突破體現在三個維度：

首先是速度上的突破。

傳統虛擬機啟動需要完整的系統引導過程。Cube通過“運行時快照”技術，將一個已就緒的沙箱固化成模板，通過內存映射恢復的方式，Cube只需約40毫秒就能交付一個安全沙箱，加上網絡、鑒權等開銷，端到端啟動時長穩定在100毫秒級別。

這是什么概念？人眨一次眼需要100~150毫秒。當你眨眼的瞬間，騰訊云已經為你的Agent準備好了一個完整的執行環境。

其次是安全上的加強。

速度不能以犧牲安全為代價。Cube保留了虛擬機級別的強隔離能力，每個Agent的行為都運行在獨立、可審計、可約束的執行環境中。代碼執行、網絡訪問、系統調用均受嚴格策略控制，任何越界行為會被即時阻斷。

騰訊云首創的“會話與實例綁定”機制更進一步：每個用戶會話分配一個獨立的輕量虛擬機，會話結束后徹底銷毀、清零內存，從根源上杜絕數據泄露風險。

最后是并發上的提升。

Agent的工作負載極不穩定——可能長時間空閑，也可能突然涌來海量請求。Cube通過資源提前池化（網絡、進程、磁盤等預創建），實現了單機同時拉起2000＋沙箱，平臺整體可瞬時調度10萬級沙箱的實例。

這種“即開即用、用完即銷毀”的Serverless架構，讓企業無需按最高負載囤積機器，資源利用率提升至80％以上，算力成本大幅降低。

騰訊云沙箱，圖源：騰訊云

目前，騰訊云Agent沙箱服務已經開放內測，支持代碼沙箱（Python、JavaScript）、瀏覽器沙箱和計算機沙箱等多種類型，兼容主流社區開源協議（如MCP）以及RESTful API、SDK、CLI等多種接入方式。

3.不只是沙箱：Agent Runtime的全棧思考

盡管已經將沙箱技術做到了行業領先，騰訊云對Agent Infra的理解，遠不止于一個高性能沙箱。

今年9月，在全球數字生態大會上，騰訊云正式發布了Agent Runtime解決方案，集成了執行引擎、云沙箱、上下文服務、網關、安全可觀測等核心模塊。這套方案背后，體現的是騰訊云對Agent全生命周期管理的系統性思考。

騰訊云Agent Runtime解決方案，圖源：騰訊云

執行引擎扮演著“智能調度中心”的角色。它由Agent Server（決策中樞）、MCP Server（工具集成層）和沙箱應用三個原子化模塊組成，支持會話親和調度、實例級安全隔離。值得一提的是，執行引擎支持會話持續運行7天，并能暫停保留30天，這對于需要長時間運行的復雜Agent任務至關重要。

上下文服務解決了Agent的“記憶”問題。如何從對話中提煉關鍵信息并沉淀為“長期記憶”，且在不浪費資源的前提下實現記憶存儲與檢索，是企業落地Agent的重大技術門檻。騰訊云將記憶管理云化為通用服務，降低了企業的開發難度。

網關與安全可觀測則提供了全鏈路的安全防護。從模型服務接入、工具調用流量管理，到機密計算、日志服務、全鏈路安全與可觀測，騰訊云構建了一套完整的安全體系。

這種自下而上的分層演進邏輯與海外云廠商的布局思路不謀而合，但騰訊云在底層性能上的突破，讓其在這場競賽中占據了先發優勢。

以騰訊元寶為例，其AI編程功能就運行在Agent Runtime之上。通過云沙箱提供的安全隔離環境，元寶可以即時生成并執行代碼，實測運行速度遠超同類產品。

騰訊產品團隊強調，元寶只是Agent Runtime眾多應用場景之一。這套基礎設施的真正價值，在于它為所有開發者提供了一個安全、高性能、Serverless的Agent運行環境，讓他們能夠專注于業務邏輯，而不是陷入底層基礎設施的泥潭。

以一家專注于Agent瀏覽器的公司為例，其核心技術挑戰是訓練智能體自動完成瀏覽器通用任務（信息檢索、表單填寫、在線購物等），整個后訓練流程包含模型推理、執行軌跡生成、沙箱執行和模型訓練四個環節，單輪訓練需要并發啟動近萬個Session和對應數量的PC/瀏覽器沙箱環境。傳統方案中，沙箱啟動時間過長成為制約訓練效率的主要瓶頸。

在引入騰訊云沙箱后，該公司不僅能使用騰訊云的全球算力資源池靈活調配，可承載十萬級的Session并發創建能力，沙箱的啟動時間也提速到100毫秒級別。

此外，Agent Runtime的優異表現，并非源于單一的技術或產品，還在于其根植于騰訊公司內部最龐大、最多樣化的業務生態。

騰訊內部擁有從社交（微信）、游戲、文娛（視頻）、到支付、云計算等業界最豐富的應用形態。目前，所有這些業務都在進行AI化轉型，并催生出大量獨特的Agent應用。可以說，這些海量、復雜且高標準的內部場景，成為了Agent Runtime產品最好的“磨刀石”和“試驗田”。

4.云原生的下一站：為Agent而生

盡管Agent Infra已經成為行業熱點，但必須承認，這個領域仍處于早期階段。當前的產品和解決方案，主要解決的是“能跑起來”的問題；而未來的演進方向，則是解決“跑得更好”的問題。

現階段，安全隔離、彈性供給、極致性能是AI Agent最緊迫的需求。而當Agent能夠穩定運行后，企業的需求會快速升級：如何讓Agent更智能、更可控、更易管理？

評估體系的構建是第一個挑戰。傳統軟件有明確的測試標準——功能是否正確、性能是否達標、有無bug。但Agent基于大模型，輸出具有不確定性，如何評估其“好壞”？如何建立客觀的評價指標？如何確保Agent的能力不會退化？這些問題目前還沒有標準答案。

“第一，你要從工程思維，轉化成駕馭不確定性和復雜系統的思維，要去為它構建評測體系，這種轉變是非常巨大的；第二，你不僅需要利用AI Coding的工具進行代碼生成，更是要用它改變你們之間的協同模式。這兩點都是巨大的挑戰。”騰訊云云原生產品副總經理，騰訊云專家工程師于廣游說。

數據管理與回放是第二個挑戰。Agent在真實環境中的表現，往往與實驗室環境有很大差異。如何收集和管理Agent的運行數據？如何回放歷史場景進行調試？如何構建測試集確保可持續性？這需要基礎設施層提供系統化的支持。

記憶與上下文管理是第三個挑戰。未來的Agent不應只是執行單次任務，而應能夠從歷史交互中學習、在長期運行中積累經驗、在上下文理解中不斷優化。這要求基礎設施提供自動總結、學習沉淀、上下文壓縮等高階能力。

“假如你跟Agent說，請你幫我搜一個什么東西，Agent會拉出來非常多資料——這個工作并不是從一個RAG的數據庫中挑取處一個片段，而是真的要理解這個問題。為了訓練這種能力，我們需要對模型進行進行了Search和代碼的RL（強化學習），而非讓模型自己進行反向傳播。這個訓練過程占據了60%以上的時間。但是騰訊云的沙箱極大加速了這個過程，反映到用戶的感受上，其實就是很多Agent產品的能力在逐漸增強。”于廣游說。

當前，騰訊云已經在運維層和工具層建立了領先優勢。未來，隨著安全層和智能化層能力的逐步完善，Agent Runtime有望成為一個真正意義上的“Agent操作系統”——就像iOS之于移動應用、Kubernetes之于云原生應用一樣，為Agent提供標準化的運行環境和開發范式。

2025年，我們見證了Agent從實驗室走向生產環境的關鍵轉折。Agent Infra的成熟與普及，正在從根本上降低AI智能體的應用門檻。就像云計算讓每個企業都能享受到原本只有互聯網巨頭才具備的計算能力一樣，Agent Infra正在讓每個開發者都能構建出原本需要龐大團隊才能完成的智能應用。

這場變革才剛剛開始。正如騰訊云產品團隊所言，完備的Agent Infra新范式目前尚不存在，行業仍處于“共識落地為行動”的初期階段。但從100毫秒的沙箱啟動速度、10萬級的瞬時調度能力、會話級的安全隔離機制來看，騰訊云已經在這條賽道上建立了清晰的技術領先優勢。

當Agent從Demo走向生產，從實驗室走向企業，它需要的不僅僅是一個“能用”的基礎設施，更需要一個“好用”的、專為其設計的云原生環境。

這或許就是Agent Infra存在的意義，也是騰訊云正在書寫的答案。

（封面圖來源：AI生成）