![]()
“對于每一個企業來說,怎么用好Tokens,是一門必修課。”
作者丨胡敏
編輯丨包永剛
2026年,AI應用的普及讓Token消耗量進入指數級增長。但對企業來說,這不是一個抽象的數字游戲,每一筆Token消耗,都是真金白銀的算力賬單。一家中等規模的AI客服公司,月Token消耗從去年底的幾百萬飆升到現在的上億;一家做代碼助手的創業公司,半年內Token成本漲了5倍,增速超過了收入。
類似的案例正在各行各業上演。Token用得多,說明業務在增長。但問題也隨之而來:Token成本正在吃掉企業利潤。很多公司陷入了一個尷尬的局面,業務越火,算力賬單越燙手。
本期圓桌,我們聚焦企業視角,邀請三位算力成本一線的實戰派,拆解:企業到底怎么才能把Token成本降下來?
01
核心議題
我們將討論這4個你最關心的問題:
第一,看看大家Token賬單都有多夸張?
三位大咖將分享他們親身經歷的“最離譜”消耗案例,那些讓你肉疼的數字。
第二,再查查這些“錢”燒在哪?
企業Tokens成本,到底被誰吃掉了?是無效的推理調用、過長的上下文,還是模型架構本身的低效?當前企業對于“降本”這件事,是已有成熟方法論,還是仍在迷茫摸索。
第三,拆解省錢實操路徑
我們將從三個維度,一次性講透降本方法:
使用側:優化提示詞、減少無效調用、控制輸出長度……這些“小動作”到底能省多少錢?有哪些反直覺的坑?
采購側:OpenAI、Anthropic、DeepSeek……模型怎么選?便宜的模型真的更省錢嗎?訂閱制看似劃算,但遭遇“封號”風險怎么辦?從廠商直購還是走第三方平臺?
技術側:從模型、工程到硬件,哪些降本路徑真正有效?哪些只是看上去美好
第四,解答你對未來的擔憂
二級市場擔心“Tokens用得越多,利潤越薄”,這個擔心有必要嗎?未來企業Tokens成本會繼續快速下降,還是會遇到天花板?
02
圓桌嘉賓
![]()
九章云極聯合創始人兼COO 尚明棟
尚明棟,畢業于北京航空航天大學和美國雪城大學(Syracuse University),計算機工程等前瞻學術經歷為其后的技術生涯奠定了堅實的基礎。原微軟服務器高可用集群文件系統核心開發工程師, 曾參與發布Windows 7和Windows 8,是SMB 3.0的主要擬草人之一。擁有Continuous Availability over Cluster Failover和Multichannel over SMB 等美國專利,在文件系統和海量數據可靠傳輸領域具有深厚造詣。
2013年,尚明棟聯合創立了九章云極DataCanvas,并擔任COO,負責公司人工智能基礎設施軟件的技術架構、團隊管理和智算產品的創新研發,引領公司在智算領域取得顯著成果。作為行業內的技術領袖,他以其卓越的創新能力和豐富的行業經驗,為推動人工智能技術的發展做出重要貢獻。
![]()
云天勵飛副總裁、智算研究院院長肖嶸
肖嶸,現任深圳云天勵飛技術股份有限公司副總裁、兼智算研究院院長,正高級工程師。先后入選國家重大人才工程、深圳市孔雀計劃 A 類人才。 肖嶸博士本、碩、博均畢業于南京大學,擁有扎實的學術背景和長期的產業實踐經驗。
曾任微軟研究院高級研究員、微軟必應搜索資深軟件工程師,以及平安產險人工智能部總經理等職務,在人工智能核心技術研發與規模化應用方面積累了豐富經驗。 其主要研究方向涵蓋機器視覺、大規模搜索引擎、多模態大模型等領域,長期致力于推動前沿算法向實際場景落地轉化。
曾榮獲吳文俊人工智能科技進步獎一等獎、微軟 ICICLE 獎、平安集團重大創新獎等多項重要榮譽。其主持研發的 OCR 表格識別、人臉識別算法在多項國內外權威比賽中多次奪冠;主導打造的“云天天書”大模型在 C-Eval、CMMLU、MMBench 等權威評測榜單中取得第一名的成績。
目前,肖嶸博士主持云天勵飛智算研究院工作,重點聚焦大模型推理優化與具身智能多模態大模型兩個前沿研究方向,持續推動人工智能技術創新與產業化應用。
![]()
云器科技聯合創始人、CTO關濤
關濤 Tony,云器科技聯合創始人/CTO,分布式系統和大數據平臺領域專家。
曾任阿里云計算平臺事業部研究員,前阿里巴巴通用計算平臺MaxCompute、Dataworks負責人,負責阿里巴巴主線大數據平臺。前阿里巴巴和螞蟻集團技術委員會計算平臺領域組長、阿里云架構組大數據組組長。
加入阿里云之前,在微軟云計算和企業事業部工作 9 年,主持和參與開發了Azure DatalakeAnalytics、Cosmos/Scope等多套超大規模分布式存儲和計算平臺。并著有多篇國內外會議論文和專利。
03
2026 年 4 月 10 日 14:00(北京時間)
觀看平臺
視頻號 “雷峰網”直播間
掃碼預約,看看其他企業是怎么省錢的~
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.