![]()
編者按:日均詞元調(diào)用量超過(guò)140萬(wàn)億,這是一個(gè)什么樣的概念?大家為何如此重視新生的詞元概念?近日,中國(guó)人民大學(xué)重陽(yáng)金融研究院副研究員丁壯接受央視財(cái)經(jīng) 的連線訪談,就AI“詞元經(jīng)濟(jì)”及其下一步發(fā)展進(jìn)行解讀。現(xiàn)將采訪全文發(fā)布如下: (全文約3500字,預(yù)計(jì)閱讀時(shí)間9分鐘)
主持人:詞元調(diào)用量的井噴意味著什么?丁壯先生你好。首先請(qǐng)給大家來(lái)簡(jiǎn)單介紹一下,日均詞元調(diào)用量超過(guò)140萬(wàn)億,這是一個(gè)什么樣的概念?以及大家為何如此重視新生的詞元概念?
丁壯:所謂詞元,其實(shí)就是我們AI大模型處理信息的最小的單元,如同家里用電要用“度”來(lái)計(jì)算一樣,現(xiàn)在AI處理信息就要計(jì)算詞元。因此我們每次向AI提問(wèn),讓它生成圖片或者平時(shí)寫(xiě)代碼,背后都是在調(diào)用這些詞元。日均140萬(wàn)億詞元調(diào)用量,我可以打一個(gè)比方,例如每個(gè)漢字背后對(duì)應(yīng)1.5到2個(gè)詞元,這140萬(wàn)億的詞元相當(dāng)于我們每天通過(guò)AI處理和生成的文字總量,可以比人類有史以來(lái)所有印刷書(shū)籍的文字總和多出好幾個(gè)數(shù)量級(jí)。從我們目前140萬(wàn)億數(shù)量級(jí)的日均調(diào)用量來(lái)看,可以說(shuō)AI已經(jīng)真正走進(jìn)生產(chǎn)生活,成為類似電力網(wǎng)絡(luò)的基礎(chǔ)設(shè)施。
所以大家重視詞元這個(gè)概念,其核心在于詞元能夠讓AI更可量化,讓AI能夠可計(jì)量。過(guò)去我們談?wù)撊斯ぶ悄軙r(shí),更多是關(guān)注算法的先進(jìn)性和算力的強(qiáng)大,這些內(nèi)容過(guò)于技術(shù)化,與商業(yè)相距甚遠(yuǎn)。然而詞元的出現(xiàn)使AI變得像電一樣,電的計(jì)量單位是度,水的計(jì)量單位是升,這樣的計(jì)量標(biāo)準(zhǔn)。有了詞元,AI就可以像水電一樣被定價(jià)、交易和管理。目前我們圍繞詞元展開(kāi)調(diào)用、分發(fā)和結(jié)算,詞元經(jīng)濟(jì)也在逐步形成。因此AI產(chǎn)業(yè)真正可變現(xiàn)、可規(guī)模化的路徑正在變得清晰。
主持人:詞元作為大模型處理信息的最小單元,正在從專業(yè)術(shù)語(yǔ)走向大眾日常,普通用戶應(yīng)該如何理解詞元與AI服務(wù)定價(jià)的關(guān)系?這會(huì)如何影響使用習(xí)慣?
丁壯:詞元計(jì)費(fèi)其實(shí)就是用多少就付多少,也就是一種商業(yè)邏輯的變革。我們可以這么理解,過(guò)去上網(wǎng)都是按照流量付費(fèi),例如用了多少GB,我們使用網(wǎng)絡(luò)服務(wù)可能包月包年,無(wú)論用多用少都是價(jià)格。但是未來(lái)我們使用AI的話,很可能就是用詞元來(lái)付費(fèi),例如一個(gè)復(fù)雜問(wèn)題,AI回答可能消耗1萬(wàn)個(gè)詞元,在一些簡(jiǎn)單的初級(jí)查詢中可能只消耗幾百個(gè),按量計(jì)費(fèi)。因此,正如我剛才提到的,AI服務(wù)會(huì)像水電一樣可計(jì)量、可管理。
對(duì)于普通用戶來(lái)說(shuō),這種使用習(xí)慣可能有三個(gè)明顯特征,第一個(gè)是詞元效率,即如何用更少的資源問(wèn)題來(lái)提出更精準(zhǔn)的問(wèn)題。例如我們?cè)诰庉嫸绦呕蛘甙l(fā)微信時(shí)會(huì)精煉語(yǔ)言。第二,可能會(huì)出現(xiàn)詞元套餐,例如我們目前使用的流量和電力服務(wù)商,套餐包含多少資源以及如何計(jì)費(fèi)等。第三,最重要的是普通用戶更愿意為高質(zhì)量低詞元消耗的智能體買單。從產(chǎn)業(yè)角度分析,詞元使用習(xí)慣和定價(jià)機(jī)制會(huì)倒逼企業(yè)模型優(yōu)化。因此架構(gòu)創(chuàng)新對(duì)整個(gè)行業(yè)都是好事。
主持人:各種智能體現(xiàn)在快速發(fā)展帶動(dòng)詞元消耗激增,圍繞詞元調(diào)用分發(fā)和結(jié)算,有哪些主體參與其中?
丁壯:其實(shí)這也是當(dāng)前我們AI智能體產(chǎn)業(yè)鏈的一個(gè)核心。詞元調(diào)用分發(fā)與結(jié)算實(shí)際上是一個(gè)完整的詞元經(jīng)濟(jì)生態(tài)圈。主要參與者有以下幾類:
第一類是算力基礎(chǔ)設(shè)施供應(yīng)商,主要提供GPU、服務(wù)器、超節(jié)點(diǎn)等硬基座。第二類是大模型廠商,例如Deepseek、智譜、月之暗面等,他們提供訓(xùn)練模型的基礎(chǔ)能力,通過(guò)AI服務(wù)收費(fèi)。第三類是算力服務(wù)商,例如我們現(xiàn)在的三大運(yùn)營(yíng)商,他們提供底層的計(jì)算和網(wǎng)絡(luò),進(jìn)行詞元的分發(fā)和結(jié)算。第四類是我們接觸最多的應(yīng)用開(kāi)發(fā)商和智能體開(kāi)發(fā)者。例如最近熱門的龍蝦智能體,在執(zhí)行任務(wù)時(shí)需要頻繁調(diào)用大模型,資源消耗是普通模型的上百倍甚至數(shù)百倍,但它帶來(lái)的價(jià)值也更大。
主持人:那么您對(duì)相關(guān)變遷路徑有何觀察?可以通過(guò)哪些指標(biāo)監(jiān)測(cè)應(yīng)用深化的節(jié)奏和方向?
丁壯:在變現(xiàn)路徑上,我認(rèn)為最值得關(guān)注的是詞元經(jīng)濟(jì)中的詞元經(jīng)營(yíng)服務(wù)。例如我們現(xiàn)在的三大運(yùn)營(yíng)商,他們已經(jīng)為企業(yè)量身定制開(kāi)發(fā)了許多智能體,帶動(dòng)年消耗數(shù)萬(wàn)億詞元。這表明未來(lái)我們銷售的不僅僅是算力,而是詞元解決方案,能夠幫助企業(yè)將AI能力嵌入到自身的整個(gè)業(yè)務(wù)體和流程中,按照實(shí)際調(diào)用詞元進(jìn)行收費(fèi)。
關(guān)于監(jiān)測(cè)AI應(yīng)用深化的指標(biāo),我建議以下幾點(diǎn)為主。首先我們可以關(guān)注行業(yè)詞元的密度,即每個(gè)行業(yè)單位產(chǎn)值所消耗的詞元量。通過(guò)這些數(shù)據(jù)我們可以看出AI在各行各業(yè)中的滲透深度。第二個(gè)是智能體的滲透率,即目前企業(yè)中使用智能體崗位的比例。第三個(gè)是詞元的復(fù)用率,即高質(zhì)量詞元在不同商業(yè)場(chǎng)景中被重復(fù)使用的次數(shù)。我希望通過(guò)這三類數(shù)據(jù),可以清晰地反映AI技術(shù)從技術(shù)走向產(chǎn)業(yè)的節(jié)奏以及未來(lái)的發(fā)展前景。
主持人:詞元已經(jīng)成為可計(jì)量、可定價(jià)、可交易的結(jié)算單位,您認(rèn)為相關(guān)的交易機(jī)制交易平臺(tái)的設(shè)計(jì)要抓好哪些重點(diǎn)?
丁壯:交易機(jī)制與平臺(tái)設(shè)計(jì)確實(shí)關(guān)系到詞元經(jīng)濟(jì)健康起步的發(fā)展。我認(rèn)為重點(diǎn)要抓好三個(gè)方面,第一個(gè)是所有權(quán)問(wèn)題,也就是確權(quán)問(wèn)題,即數(shù)據(jù)究竟歸誰(shuí)所售賣。國(guó)家數(shù)據(jù)局已經(jīng)明確提出要推動(dòng)加快建立全國(guó)統(tǒng)一的數(shù)據(jù)產(chǎn)權(quán)登記制度,明確數(shù)據(jù)的持有權(quán)、使用權(quán)和經(jīng)營(yíng)權(quán)可以分開(kāi)配置。只有這樣,數(shù)據(jù)持有者才敢把數(shù)據(jù)拿出來(lái)流通,無(wú)需擔(dān)心賣虧或者權(quán)益受損。
第二個(gè)重點(diǎn)問(wèn)題是定價(jià),即詞元如何定價(jià)才合理。我認(rèn)為未來(lái)需要建立更加市場(chǎng)化的定價(jià)機(jī)制,讓供需關(guān)系決定價(jià)格。第三個(gè)重點(diǎn)是建立透明可審計(jì)的詞元計(jì)量標(biāo)準(zhǔn),如同我們之前提到的電表需要遵循國(guó)家標(biāo)準(zhǔn),詞元未來(lái)的定義計(jì)量方式必須統(tǒng)一,避免各平臺(tái)自說(shuō)自話。我認(rèn)為這可能需要未來(lái)國(guó)家數(shù)據(jù)局牽頭,并聯(lián)合產(chǎn)業(yè)界制定相關(guān)規(guī)范。
主持人:隨著詞元調(diào)用量的增加,對(duì)算力算法和電力提出了更高要求。有觀點(diǎn)認(rèn)為算力產(chǎn)業(yè)的核心創(chuàng)新將圍繞有效詞元成本下降展開(kāi),未來(lái)可能要圍繞哪些重點(diǎn)進(jìn)行協(xié)同優(yōu)化?
丁壯:我認(rèn)為協(xié)同優(yōu)化需要關(guān)注三個(gè)重點(diǎn)。首先從整個(gè)產(chǎn)業(yè)鏈來(lái)看,在算力端,我們需要從過(guò)去的拼硬件轉(zhuǎn)向整個(gè)算力系統(tǒng)性的協(xié)同優(yōu)化。過(guò)去大家都是拼GPU,現(xiàn)在可能要比誰(shuí)的單位算力產(chǎn)出的詞元多,因此不能只關(guān)注單顆芯片的性能。我們現(xiàn)在所開(kāi)發(fā)的一些超節(jié)點(diǎn)的技術(shù),能夠?qū)资踔辽习兕wGPU整合成一個(gè)計(jì)算單元,實(shí)現(xiàn)系統(tǒng)優(yōu)化。
第二點(diǎn)是在算法方面,我認(rèn)為我們的模型在壓縮、量化和蒸餾等方面的技術(shù)需要跟進(jìn)。同樣一個(gè)任務(wù)能否用更少的詞元完成,需要算法創(chuàng)新。
第三點(diǎn)是在電力領(lǐng)域,綠色算力是我們發(fā)展的必然選擇。雖然詞元消耗本質(zhì)上是電力消耗,但是我們可以推動(dòng)數(shù)據(jù)中心更多地使用綠電探索電力協(xié)同調(diào)度,例如在風(fēng)光資源豐富時(shí),調(diào)度更多推理任務(wù),使用綠電直供、三電協(xié)同等,這些都是重點(diǎn)方向。
主持人:從政策層面我們應(yīng)該如何去具體引導(dǎo),又會(huì)給相關(guān)的哪些產(chǎn)業(yè)帶來(lái)邏輯上的改變?
丁壯:一方面可以推動(dòng)我們已經(jīng)在進(jìn)行的東數(shù)西算工程進(jìn)一步深化。例如,我們可以將算力中心建立在風(fēng)光電富集的區(qū)域,實(shí)現(xiàn)綠電直供就地消納,新疆、青海、甘肅、內(nèi)蒙等三北地區(qū)具有得天獨(dú)厚的電力優(yōu)勢(shì)。
第二,我認(rèn)為可以建立算力與電力協(xié)同的機(jī)制。例如數(shù)據(jù)中心可以參與電力需求側(cè)管理,在用電低谷時(shí)多計(jì)算,高峰時(shí)少計(jì)算,這樣既節(jié)省資金又減少碳排放。
最后一個(gè)方面,我認(rèn)為可以在政策上結(jié)合我們現(xiàn)在做得較好的算力券或者資源補(bǔ)貼等創(chuàng)新政策,降低中小企業(yè)使用詞元應(yīng)用AI的門檻。這樣可以從政策上引導(dǎo)形成算力高質(zhì)量供給,推出高效詞元產(chǎn)出,同時(shí)在企業(yè)產(chǎn)業(yè)應(yīng)用方面產(chǎn)出高價(jià)值應(yīng)用,構(gòu)成良性循環(huán)。
歡迎
加入人大重陽(yáng)社群
為增進(jìn)與粉絲們的互動(dòng),讓大家有更好的交流體驗(yàn),人大重陽(yáng)建立了“企業(yè)”“學(xué)術(shù)”兩大社群,歡迎感興趣的朋友掃描上方二維碼添加人大重陽(yáng)工作人員的微信(rdcy2013sph)備注姓名、單位、職務(wù)及想加入的群聊,審核通過(guò)后工作人員會(huì)將您拉入群內(nèi)。
// 人大重陽(yáng)
RDCY
中國(guó)人民大學(xué)重陽(yáng)金融研究院(人大重陽(yáng))成立于2013年1月19日,是重陽(yáng)投資向中國(guó)人民大學(xué)捐贈(zèng)并設(shè)立教育基金運(yùn)營(yíng)的主要資助項(xiàng)目。
作為中國(guó)特色新型智庫(kù),人大重陽(yáng)聘請(qǐng)了全球數(shù)十位前政要、銀行家、知名學(xué)者為高級(jí)研究員,旨在關(guān)注現(xiàn)實(shí)、建言國(guó)家、服務(wù)人民。目前,人大重陽(yáng)下設(shè)7個(gè)部門、運(yùn)營(yíng)管理4個(gè)中心(生態(tài)金融研究中心、全球治理研究中心、中美人文交流研究中心、中俄人文交流研究中心)。近年來(lái),人大重陽(yáng)在金融發(fā)展、全球治理、大國(guó)關(guān)系、宏觀政策等研究領(lǐng)域在國(guó)內(nèi)外均具有較高認(rèn)可度。
![]()
別忘了“點(diǎn)贊”+“轉(zhuǎn)發(fā)”
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.