我每月燒掉1240美元：OpenAI賬單里藏著的4個低級錯誤

2847美元的月賬單，43%是冤枉錢。這個數字來自一位開發者的真實審計，他原本只是想搞清楚"錢到底花哪了"，結果挖出一堆讓人臉紅的操作失誤。

大模型API的計費黑箱，像極了老式電表——月底給你個總數，但空調、冰箱、熱水器各用了多少？自己猜。OpenAI和Anthropic的后臺只展示總金額，開發者只能對著數字發呆。

于是他寫了個工具。兩周后，數據攤在眼前：34%的調用是重復請求，85%的分類任務在浪費算力，一個六行代碼的修復就能省140美元/月。

34%的調用在"復讀"：一個格式錯誤燒掉140美元

問題出在JSON解析上。他的摘要生成器要求模型返回純JSON，但GPT-4o習慣性把輸出包在markdown代碼塊里——前后加上```json和```。

解析器不認這個格式，直接報錯。代碼進入重試循環，同樣的請求再發一次。再報錯。再發。每次重試都是完整計費，包括輸入token和輸出token。

修復簡單到可笑：在prompt里加一句"不要添加markdown格式"。六行代碼的改動，月省140美元。這個bug存在了數月，因為賬單里根本看不出"重試"和"正常調用"的區別。

更隱蔽的是緩存缺失。他的分類器每周處理847次調用，其中723次輸入完全相同——"這篇文章是科技類嗎？"問了幾百遍，每次付全款。沒有緩存層，沒有結果復用，系統像金魚一樣失憶。

加個字典緩存，月省310美元。這是計算機科學101的內容，但在大模型時代被集體遺忘——大家忙著調prompt，忘了基礎工程。

模型選型傲慢：用GPT-4o做二分類，每月白扔71美元

他的分類任務輸出固定五種標簽之一，每次響應不超過10個token。卻調用了全量GPT-4o。

GPT-4o-mini在相同測試集上給出完全一致的結果，成本差一個數量級。這不是能力問題，是慣性問題——項目啟動時用了4o，之后沒人質疑過這個選擇。

賬單不會提醒你"這個任務可以用更便宜的模型"。它只會安靜地扣款，直到有人主動審計。

上下文膨脹是第四個出血點。他的聊天機器人把完整對話歷史塞進每次調用，第20輪時輸入token達到3200個，且持續增長。但有效信息只在最后幾條消息里。

截斷到最近5條，月省155美元。用戶感知不到差異，因為早期對話對當前回復的影響本就微弱。

工具開源：兩行代碼接入，SQLite本地存儲

他把審計流程打包成Python CLI工具llm-spend-profiler。接入成本是兩行代碼：

```python
from llm_cost_profiler import wrap
from openai import OpenAI
client = wrap(OpenAI())
```

原有代碼無需改動。所有調用靜默寫入本地SQLite數據庫，失敗時不影響主流程。Anthropic SDK同樣支持。

運行llmcost report后，輸出按功能模塊拆分：摘要生成占48.7%，聊天機器人24%，分類器10.5%。警告欄用emoji標記異常：?? 重試率過高、上下文膨脹、模型選型不當。

這種可視化在官方后臺不存在。OpenAI的Usage頁面按API key聚合，Anthropic類似——適合財務對賬，不適合工程優化。

行業盲區：當"按token計費"變成認知陷阱

大模型API的定價設計強化了某種幻覺：輸入便宜、輸出貴，長文本要小心。但真正的浪費藏在工程細節里——重試風暴、緩存缺失、模型錯配、上下文管理失控。

這些不是算法問題，是基礎設施問題。就像早期云計算時代，大家突然發現自己為閑置EC2實例支付了數百萬美元，只因為忘了關自動擴縮容。

區別在于，AWS后來提供了詳細的成本分析工具。大模型廠商目前還沒有同等力度的透明度——也許因為43%的浪費率，某種程度上符合他們的商業利益。

這位開發者把工具開源在GitHub。README里沒有"革命性"或"顛覆性"的字眼，只有一行說明："我每月省了1240美元，你可能也在犯同樣的錯誤。"

你的賬單里，有多少比例經得起這種審計？