![]()
去年有個數據在開發者圈子里傳得很兇:有人讓Claude跑了一晚上自動化腳本,醒來發現API賬單夠買三張顯卡。不是夸張,是真實發生的賬單驚嚇。
這種故事正在變得常見。不是因為你寫錯了代碼,而是因為token(令牌)消耗成了一種看不見的資源泄漏——和二十年前內存泄漏一樣隱蔽,一樣昂貴。
從內存焦慮到token焦慮
2000年代初的開發者有個共同記憶:盯著Activity Monitor里的RAM占用曲線,像看心率監測儀。每個內存分配都要計較,每個泄漏都是生產事故。
這種肌肉記憶正在轉移。獨立開發者Simon Willison去年在博客中寫道,他建東西建了大約一年,「大概在最近六個月,心智模型變了」。他不再想內存預算,開始想token預算:這次請求喂了多少上下文?這個提示鏈成本多少?為什么預期5k token的工作流實際跑了50k?
是同一種焦慮,只是換了一種資源。
RAM時代有工具。Activity Monitor、top、htop——數字實時跳動,你訓練自己注意到異常。token時代什么都沒有。編碼 session 結束,打開API儀表盤,數字和心智模型對不上。有時高得離譜,有時以為「輕量」的工作流四小時內錘了Claude 200k token。
Willison的應對方式是自建工具。他做了TokenBar,一個菜單欄數字,提供那種「環境感知」——不用打斷心流,瞟一眼就知道現在在哪。
資源幻覺的兩次崩塌
RAM曾經感覺無限,直到某天不是。代碼跑著一切正常,再開一個標簽、多跑一個進程,整機卡住。
token在項目早期一模一樣。你在實驗、迭代,用系統提示、工具調用、對話歷史堆上下文窗口。都很便宜。然后你規模化,或者自動化了每小時跑的任務,醒來面對賬單。
另一個平行:RAM泄漏難抓,必須刻意去找。token浪費同樣隱蔽——藏在沒修剪的系統提示里,藏在返回巨大payload的工具調用里,藏在過夜沒關的對話線程里。
Willison開始認真盯token用量后,幾件事讓他意外:
Claude單條請求便宜,直到累積起來。個體請求感覺像零錢,但請求量很大。成本在后臺、在看不見的地方累積。
他完全不知道哪些工作流貴。當時跑了大概八個Claude自動化,他自以為知道哪三個最耗token。猜錯了三個。
查儀表盤打斷心流。他是「菜單欄控」,活在菜單欄里。打開瀏覽器、導航到儀表盤、等加載——這種摩擦讓他最多每周查一次賬單。每周太晚了。
實時可見性改變了行為。不是突然變得摳門,而是早期抓到一個配置錯誤的自動化(它在錯誤條件上循環,猛錘API),在造成真損失前修好了。
一個菜單欄數字能改變什么
TokenBar的功能很簡單:菜單欄顯示當前token用量,可選成本估算,支持多提供商(OpenAI、Anthropic、Gemini等)。
但設計選擇透露了理解。Willison故意不做「預算告警」那種嚇人功能,而是追求「環境感知」——像房間溫度,你知道它在,不用刻意看,但異常時會注意到。
這種設計哲學來自RAM時代的教訓。開發者不需要被教育「token很貴」,需要的是和代碼互動時的實時反饋回路。寫一段提示,跑測試,菜單欄數字跳一下——這種即時性讓優化變成直覺,而不是月底的考古。
Willison提到一個具體案例:某個本該每天跑一次的自動化,因為bug每小時跑了一次。沒TokenBar的話,這個bug可能跑完整個月才發現。有了實時數字,第二天就注意到異常波動。
這種「早發現」的價值,在AI應用開發里被低估了。和傳統軟件不同,AI調用的成本結構是輸入長度×輸出長度×頻率,三個變量都可能爆炸。一個沒注意到的循環、一段沒壓縮的上下文、一個被濫用的工具調用,都能在幾小時內吃掉本季度的API預算。
工具背后的行業轉向
TokenBar的出現不是孤立事件。過去一年,類似工具在開發者社區快速涌現:OpenRouter的用量追蹤、LangSmith的成本分析、各種VS Code插件的token計數。
這反映了一個結構性變化:AI正在成為基礎設施層,而基礎設施需要可觀測性。
云時代的可觀測性圍繞CPU、內存、帶寬構建。AI時代需要新的維度:上下文窗口利用率、提示效率、緩存命中率、多輪對話的累積成本。這些指標沒有現成的OS工具,必須自建或采購。
Willison的產品經理背景在TokenBar里很明顯。他沒有做功能堆砌,而是解決一個具體場景:「我正在寫代碼,想知道剛才那波操作燒了多少錢」。菜單欄是戰略選擇——不是儀表盤,不是報告,是開發工作流里的常駐元素。
這種「嵌入工作流」的設計思路,可能是AI工具鏈的一個模板。當AI調用從「偶爾嘗試」變成「每小時數百次」的基礎設施,開發者需要的不是更復雜的分析,而是更不打擾的感知。
TokenBar目前還是個人項目,代碼開源。Willison在博客里提到,他建這個工具首先是解決自己的問題——那種「月底看賬單時的心臟驟停」。現在他把這種心臟保護機制分享出來,順便觀察:多少人和他有一樣的焦慮,愿意為一個菜單欄數字付費。
這個問題的答案,可能比工具本身更能說明AI開發的現狀。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.