<cite id="ffb66"></cite><cite id="ffb66"><track id="ffb66"></track></cite>
      <legend id="ffb66"><li id="ffb66"></li></legend>
      色婷婷久,激情色播,久久久无码专区,亚洲中文字幕av,国产成人A片,av无码免费,精品久久国产,99视频精品3
      網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

      Google把6個(gè)回調(diào)藏了3年,開(kāi)發(fā)者發(fā)現(xiàn)后成本直降40%

      0
      分享至


      去年有個(gè)數(shù)據(jù)挺有意思:某團(tuán)隊(duì)把ADK代理部署到QA環(huán)境后,產(chǎn)品經(jīng)理和測(cè)試組同時(shí)投訴——太慢,太貴。開(kāi)發(fā)者回頭一查,發(fā)現(xiàn)Gemini調(diào)用次數(shù)比預(yù)期多了3倍,單次會(huì)話延遲飆到8秒以上。

      問(wèn)題不在模型,在 orchestration(編排)層的「觀測(cè)盲區(qū)」。Google ADK 提供了6個(gè)回調(diào)鉤子(callback hooks),分別卡在代理執(zhí)行前后、模型調(diào)用前后、工具執(zhí)行前后。但文檔里一筆帶過(guò),多數(shù)開(kāi)發(fā)者直到成本失控才想起這回事。

      回調(diào)鉤子本質(zhì)上是把「確定性邏輯」從代理體內(nèi)抽出來(lái),扔到更輕量的執(zhí)行層。比如格式校驗(yàn)、狀態(tài)更新、審計(jì)日志——這些不需要LLM推理,卻占了大量token和等待時(shí)間。

      從8秒到200毫秒:一個(gè)具體案例

      我的項(xiàng)目里有7個(gè)子代理:project、anti-patterns、decision、recommendation、audit、upload、merger、email。前5個(gè)是LLM代理,后3個(gè)對(duì)接外部API。

      最初我把所有邏輯塞進(jìn)prompt,讓Gemini-3.1-Flash-Lite自己拆、自己判、自己合。本地測(cè)試時(shí)只關(guān)心正確性,性能?「后面再說(shuō)」。結(jié)果QA環(huán)境暴露真相:每次會(huì)話要調(diào)Gemini 12-15次,其中40%的調(diào)用其實(shí)在干「合并JSON」「檢查字段完整性」這種臟活。

      重構(gòu)方案:在project、anti-patterns、decision、recommendation、merger這5個(gè)代理里植入回調(diào)鉤子。

      具體改動(dòng):

      ? before_agent_callback:預(yù)加載項(xiàng)目上下文,避免重復(fù)查詢(xún)數(shù)據(jù)庫(kù)

      ? before_model_callback:攔截簡(jiǎn)單判斷,直接走規(guī)則引擎,跳過(guò)LLM

      ? after_model_callback:標(biāo)準(zhǔn)化輸出格式,減少下游代理的解析負(fù)擔(dān)

      ? after_agent_callback:異步寫(xiě)審計(jì)日志,不阻塞主流程

      效果:LLM調(diào)用次數(shù)從15次壓到6次,平均延遲從8.2秒降到1.8秒,token成本下降約41%。

      香港開(kāi)發(fā)者的小麻煩

      有個(gè)細(xì)節(jié)可能幫到人。Gemini在香港不可用,但項(xiàng)目需要部署到亞太節(jié)點(diǎn)。我的解法:強(qiáng)制走Vertex AI通道。

      環(huán)境變量這么配:

      GEMINI_MODEL_NAME="gemini-3.1-flash-lite-preview"

      GOOGLE_CLOUD_PROJECT="你的項(xiàng)目ID"

      GOOGLE_CLOUD_LOCATION="global"

      GOOGLE_GENAI_USE_VERTEXAI=T

      最后一行是關(guān)鍵。T代表true,強(qiáng)制啟用Vertex AI后端,繞過(guò)區(qū)域限制。代價(jià)是多一層網(wǎng)絡(luò)跳轉(zhuǎn),延遲+80ms左右,但合規(guī)。

      依賴(lài)鎖定也做了嚴(yán)格處理。企業(yè)級(jí)部署最怕「本地能跑,線上崩了」:

      npm i --save-exact @google/adk

      npm i --save-dev --save-exact @google/adk-devtools

      --save-exact 鎖死版本號(hào),開(kāi)發(fā)機(jī)和生產(chǎn)機(jī)字節(jié)級(jí)一致。另外裝了marked做Markdown轉(zhuǎn)HTML,nodemailer對(duì)接MailHog做本地郵件測(cè)試——這些在回調(diào)里高頻觸發(fā),穩(wěn)定性必須保證。

      回調(diào)不是萬(wàn)能藥,用錯(cuò)地方會(huì)反噬

      見(jiàn)過(guò)一個(gè)反例:某團(tuán)隊(duì)在before_model_callback里塞了重試邏輯,模型超時(shí)后自動(dòng)換備用key。聽(tīng)起來(lái)合理,實(shí)際埋雷——回調(diào)執(zhí)行沒(méi)有超時(shí)保護(hù),備用key也卡死時(shí),整個(gè)代理hang住,沒(méi)有日志,沒(méi)有告警,排查花了6小時(shí)。

      我的原則:回調(diào)里只放「確定能完事」的操作。任何可能阻塞、可能拋異常、可能依賴(lài)外部狀態(tài)的邏輯,要么扔給獨(dú)立服務(wù),要么干脆留在代理里讓LLM兜底。

      審計(jì)代理(Audit Trail)就是個(gè)典型。它對(duì)接Cloud Storage寫(xiě)日志,理論上可以塞在after_agent_callback里。但我選擇拆成獨(dú)立代理,通過(guò)事件總線異步觸發(fā)——寫(xiě)失敗就失敗,不影響主流程,后臺(tái)補(bǔ)錄就行。

      回調(diào)鉤子的真正價(jià)值,是把「觀測(cè)性」從事后排查變成事前攔截。成本、延遲、審計(jì),這三件事在ADK里被設(shè)計(jì)成同一套機(jī)制,但文檔沒(méi)告訴你該怎么拆。我的建議是:先畫(huà)調(diào)用鏈,標(biāo)出每個(gè)節(jié)點(diǎn)的「LLM必要性」——凡是規(guī)則能Cover的,往回調(diào)里遷。

      目前ADK的回調(diào)生態(tài)還在早期,社區(qū)里多是零星案例。Google官方示例偏重功能演示,缺少生產(chǎn)環(huán)境的邊界處理。如果你也在用ADK做企業(yè)級(jí)部署,回調(diào)鉤子的超時(shí)策略、錯(cuò)誤降級(jí)、冪等設(shè)計(jì),你是怎么處理的?

      特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關(guān)推薦
      熱點(diǎn)推薦
      4月7日俄烏最新:4年來(lái)的第一次

      4月7日俄烏最新:4年來(lái)的第一次

      西樓飲月
      2026-04-07 20:08:23
      因中國(guó)工人待遇問(wèn)題,巴西將比亞迪列入“恥辱名單”

      因中國(guó)工人待遇問(wèn)題,巴西將比亞迪列入“恥辱名單”

      互聯(lián)網(wǎng)大觀
      2026-04-07 15:43:15
      伊朗稱(chēng)部署雙聯(lián)裝導(dǎo)彈發(fā)射裝置 “打擊規(guī)模將翻倍”

      伊朗稱(chēng)部署雙聯(lián)裝導(dǎo)彈發(fā)射裝置 “打擊規(guī)模將翻倍”

      財(cái)聯(lián)社
      2026-04-07 21:48:12
      命中了!伊朗真干了

      命中了!伊朗真干了

      互聯(lián)網(wǎng)大觀
      2026-04-07 22:31:40
      比失業(yè)更可怕的是工資倒退,深圳的工資已經(jīng)降到了10年前

      比失業(yè)更可怕的是工資倒退,深圳的工資已經(jīng)降到了10年前

      細(xì)說(shuō)職場(chǎng)
      2026-04-07 11:32:47
      不裝了,攤牌了!日本18歲新星承認(rèn),乒超練1年,頂在日本打10年

      不裝了,攤牌了!日本18歲新星承認(rèn),乒超練1年,頂在日本打10年

      萌蘭聊個(gè)球
      2026-04-07 20:33:11
      明天早上8點(diǎn)!全世界都盯著,誰(shuí)先眨眼誰(shuí)輸,美伊都被逼到墻角

      明天早上8點(diǎn)!全世界都盯著,誰(shuí)先眨眼誰(shuí)輸,美伊都被逼到墻角

      諦聽(tīng)骨語(yǔ)本尊
      2026-04-07 15:24:24
      太黑了!315晚會(huì)后,最先塌房的不是奶茶,也不是辣條,而是雞蛋

      太黑了!315晚會(huì)后,最先塌房的不是奶茶,也不是辣條,而是雞蛋

      小熊侃史
      2026-04-07 07:20:08
      沒(méi)想到,陳麗華給遲重瑞留的不是財(cái)產(chǎn),不是孩子,而是最珍貴的它

      沒(méi)想到,陳麗華給遲重瑞留的不是財(cái)產(chǎn),不是孩子,而是最珍貴的它

      阿纂看事
      2026-04-07 17:50:09
      伊朗媒體:伊朗已關(guān)閉與美國(guó)的所有外交和間接溝通渠道

      伊朗媒體:伊朗已關(guān)閉與美國(guó)的所有外交和間接溝通渠道

      財(cái)聯(lián)社
      2026-04-07 21:48:18
      特朗普“首次承認(rèn)被黑吃黑”,被點(diǎn)名的庫(kù)爾德火速否認(rèn)三連

      特朗普“首次承認(rèn)被黑吃黑”,被點(diǎn)名的庫(kù)爾德火速否認(rèn)三連

      觀察者網(wǎng)
      2026-04-07 14:42:00
      美媒稱(chēng)美國(guó)已收到伊朗關(guān)于結(jié)束戰(zhàn)爭(zhēng)的回應(yīng)

      美媒稱(chēng)美國(guó)已收到伊朗關(guān)于結(jié)束戰(zhàn)爭(zhēng)的回應(yīng)

      新京報(bào)
      2026-04-06 23:46:07
      又一艘護(hù)衛(wèi)艦被擊沉,俄羅斯這次真急了

      又一艘護(hù)衛(wèi)艦被擊沉,俄羅斯這次真急了

      史政先鋒
      2026-04-07 10:22:32
      檳榔包裝上印著劉德華肖像,品牌方稱(chēng)并非代言,而是18年前《投名狀》劇照宣發(fā),律師解讀

      檳榔包裝上印著劉德華肖像,品牌方稱(chēng)并非代言,而是18年前《投名狀》劇照宣發(fā),律師解讀

      極目新聞
      2026-04-07 19:20:23
      李小林被查!鐵血軍魂不許玷污一聲驚雷,又一只“老虎”應(yīng)聲落馬

      李小林被查!鐵血軍魂不許玷污一聲驚雷,又一只“老虎”應(yīng)聲落馬

      觸摸史跡
      2026-04-07 18:20:41
      鄭麗文站在千百人聚集的宴席聚光燈下,突然指著自己大聲宣告

      鄭麗文站在千百人聚集的宴席聚光燈下,突然指著自己大聲宣告

      果媽聊娛樂(lè)
      2026-04-07 08:19:43
      NASA團(tuán)隊(duì):三峽大壩造成地球自轉(zhuǎn)軸位移,極點(diǎn)位置移動(dòng)了2公分

      NASA團(tuán)隊(duì):三峽大壩造成地球自轉(zhuǎn)軸位移,極點(diǎn)位置移動(dòng)了2公分

      心中的麥田
      2026-04-07 19:09:35
      時(shí)速超300!鄭麗文體驗(yàn)大陸高鐵速度

      時(shí)速超300!鄭麗文體驗(yàn)大陸高鐵速度

      叮當(dāng)當(dāng)科技
      2026-04-07 18:47:11
      周杰倫塌房!什么原創(chuàng)王子,他的這么多歌竟然都是抄來(lái)的

      周杰倫塌房!什么原創(chuàng)王子,他的這么多歌竟然都是抄來(lái)的

      可達(dá)鴨面面觀
      2026-04-05 16:59:56
      中美GDP差距再次拉大!中國(guó)GDP跌到美國(guó)60%,到底是哪出問(wèn)題了?

      中美GDP差距再次拉大!中國(guó)GDP跌到美國(guó)60%,到底是哪出問(wèn)題了?

      混沌錄
      2026-04-05 16:44:05
      2026-04-07 23:24:49
      灰度測(cè)試中
      灰度測(cè)試中
      生活正在重構(gòu),目前還在灰度測(cè)試階段,暫不全量發(fā)布。
      891文章數(shù) 12關(guān)注度
      往期回顧 全部

      科技要聞

      滿嘴謊言!OpenAI奧特曼黑料大起底

      頭條要聞

      特朗普恐嚇4小時(shí)摧毀伊朗 伊朗稱(chēng)"打穿"海法未見(jiàn)攔截

      頭條要聞

      特朗普恐嚇4小時(shí)摧毀伊朗 伊朗稱(chēng)"打穿"海法未見(jiàn)攔截

      體育要聞

      官宣簽約“AI球員”,這支球隊(duì)被罵慘了...

      娛樂(lè)要聞

      女首富陳麗華離世 被曝生前已分好遺產(chǎn)

      財(cái)經(jīng)要聞

      10萬(wàn)億財(cái)政轉(zhuǎn)移支付,被誰(shuí)拿走了?

      汽車(chē)要聞

      不止是大 極狐首款MPV問(wèn)道V9靜態(tài)體驗(yàn)

      態(tài)度原創(chuàng)

      健康
      手機(jī)
      數(shù)碼
      旅游
      公開(kāi)課

      干細(xì)胞抗衰4大誤區(qū),90%的人都中招

      手機(jī)要聞

      蘋(píng)果折疊iPhone遭遇工程挫折?

      數(shù)碼要聞

      榮耀官宣WIN系列游戲本:4月23日發(fā)布!

      旅游要聞

      春日限定持續(xù)上新,乘開(kāi)往春天的列車(chē)賞春日勝景

      公開(kāi)課

      李玫瑾:為什么性格比能力更重要?

      無(wú)障礙瀏覽 進(jìn)入關(guān)懷版