中國與美國要兌現(xiàn)token經(jīng)濟學,都需要用電力來破題。兩國情況各有不同。美國的問題在于缺電,發(fā)電與電網(wǎng)基礎設施落后,token產(chǎn)出規(guī)模受限于電力規(guī)模;中國的問題在于用電力換算力,相對低能效的硬件,推高了token單位成本。
在上周的采訪中,微軟CEO納德拉(Satya Nadella)認為,現(xiàn)在與其說是缺卡,,電力與就近數(shù)據(jù)中心的建設速度,限制了token的產(chǎn)出與變現(xiàn)。電不到位,通電的建筑(Warm Shell)不到位,GPU再多也只能躺著吃灰。
美國巨頭之間新一輪AI基礎設施投資高潮,已經(jīng)變成了一場電力競賽。扎克伯格也說,如果能獲得能源,Meta就可以建立比現(xiàn)在更大的集群。它們的電或者來自公共電網(wǎng),或者自建表后電力(behind-the-meter),或者兩者結(jié)合。但每一項都不簡單。尤其是ChatGPT智能體,算力巨獸。美國的數(shù)據(jù)中心,正在從1GW級穩(wěn)步邁向10GW級。Crusoe就聲稱,目前正在建設中的懷俄明州單一數(shù)據(jù)中心,一期目標1.8GW,遠期目標10GW。
目前巨頭自建離網(wǎng)電力,迄今還沒有達到1GW級別的。它涉及到大規(guī)模天然氣管道等基礎設施的建設與燃氣輪機的部署。但是,即使電力主要來自公共電網(wǎng),在電力規(guī)模不斷擴展的趨勢下,同樣困難重重。
研究機構(gòu)EpochAI分析稱,因為市場時不時擔心AI泡沫,出于對需求方“跑路”的擔心,美國的公用事業(yè)公司,通常不愿簽署非常大的購電協(xié)議,也不愿對輸電基礎設施進行相應的資本投資。當然,OpenAI的奧特曼估計也不愿意親自和電力簽長約,上周他就說,“如果極廉價能源在短期內(nèi)大規(guī)模上線,很多人會被自己簽過的長約反噬”。
還有一個重要原因在于,數(shù)據(jù)中心規(guī)模與負荷越來越大,將對老舊的電網(wǎng)帶去風險。美國最大的公用事業(yè)公司NextEra的首席執(zhí)行官John Ketchum就稱,支撐1GW需求相對容易,但要容納5GW需要“一些工作”,更不用說10GW了。而且,即使美國最高容量的765kV雙回路電壓走廊,長距離也只能承載6-7GW容量規(guī)模的數(shù)據(jù)中心。
硅谷巨頭已經(jīng)多次向白宮喊話,索要產(chǎn)業(yè)政策的支持。面對白宮征詢AI行動計劃(AI Action Plan)意見,,主要是電力系統(tǒng)。谷歌已經(jīng)看到,創(chuàng)新需要迫切地從芯片(Chip)轉(zhuǎn)向電網(wǎng)(Grid)了。此后,白宮也確實將“發(fā)展與人工智能創(chuàng)新速度相匹配的電網(wǎng)”,寫入了“建設美國AI基礎設施”這一章節(jié),包括探索利用現(xiàn)有承載量的創(chuàng)新方法,優(yōu)先考慮可靠、可調(diào)度電源的互聯(lián),并擁抱技術(shù)前沿的新能源發(fā)電來源。
上周,OpenAI繼續(xù)向白宮建言,要和中國在AI上競爭,美國必須每年新增100GW的電力容量。去年,美國新增裝機51GW,中國新增429GW,“電力鴻溝”巨大。
![]()
![]()
中國的發(fā)電量是美國的兩倍多,電網(wǎng)比美國更加“堅強”,但是,中國的AI基礎設施也有自己的“電力”難題。它建立在國產(chǎn)芯片的基座之上,后者在能效等方面仍然處于劣勢。隨著多模態(tài)模型與智能體協(xié)作的滲透,中國巨頭對于算力的需求,向百萬張卡級別邁進也是時間問題,低能效的短板會進一步放大。字節(jié)跳動的日均token調(diào)用,從今年5月的16.4萬億攀升至9月的30萬億,4個月翻了一倍。
在token經(jīng)濟學中,token成本是相當重要的組成部分。對于市場化的互聯(lián)網(wǎng)巨頭而言,token的成本就是AI基礎設施的競爭,既包括硬件之上的軟件與工具,也包括硬件本身,當然還包括讓這些軟硬件運行起來的電力與冷卻系統(tǒng)。
長期而言,缺芯片的中國,正在舉國攻關(guān)芯片和計算效率的突破。最重要的長期戰(zhàn)略之一,就是維護國產(chǎn)算力生態(tài)健康有序地競爭與創(chuàng)新。在產(chǎn)業(yè)方面,DeepSeek等開源模型廠商正在牽引著芯片廠商軟硬件協(xié)同設計;在資本方面,A股也在加速迎接摩爾線程與沐曦股份上市,壁仞科技、礪算科技與燧原科技也在推進中;在政策方面,國家也出臺多項政策鼓勵數(shù)據(jù)中心使用國產(chǎn)芯片,尤其是央企與政務相關(guān)。
這意味著,如果互聯(lián)網(wǎng)巨頭為長期戰(zhàn)略選擇國產(chǎn)芯片,也就在短期內(nèi)承擔了國產(chǎn)芯片用電力換算力的相對成本。在國內(nèi),一個家主流云廠商,1GW的全年電費,大概在80-90億元。
上半年,華為CloudMatrix 384發(fā)布,被。相比當時英偉達最新推出的GB200 NVL72,它差不多在總算力上提升了1.7倍,但全系統(tǒng)能耗相應提高了3.9倍。為方便比較,不考慮單位內(nèi)存或單位帶寬的能耗,僅比較單位算力性能,那么,GB200 NVL72的約為0.81pJ(皮焦耳)/ FLOP,而CloudMatrix 384約為1.87pJ/ FLOP。相當于,超節(jié)點每執(zhí)行需要1個FLOP的算力的任務,CloudMatrix 384就要比GB200 NVL72多消耗130%的電力。
下半年,華為在全聯(lián)接大會上展示了昇騰AI芯片4年5款產(chǎn)品的路線圖,以及更強大的Atlas 950 SuperPoD和Atlas 960 SuperPoD超節(jié)點,在卡規(guī)模、總算力、內(nèi)存容量、互聯(lián)帶寬等關(guān)鍵指標上全面領(lǐng)先,不過沒有披露最新的能效數(shù)據(jù)。考慮到在中國先進制程等半導體設計與制造領(lǐng)域,尚未追平全球最領(lǐng)先的水平,單位能效的差距在短期內(nèi)也無法迅速抹平。
補貼等產(chǎn)業(yè)政策仍然可以與支持國產(chǎn)算力生態(tài)形成組合拳。甘肅、貴州和內(nèi)蒙古等省份的工業(yè)電力單位成本,比中國東部更發(fā)達的沿海地區(qū)低約 30%,隨著算力樞紐補貼采用國產(chǎn)芯片的數(shù)據(jù)中心,電價已經(jīng)降至每度電4毛錢(5.6美分/kWh)以下甚至更低;而根據(jù)美國能源信息署8月份發(fā)布的數(shù)據(jù),美國工業(yè)電力平均成本約為9.1美分/kWh。這相當于,中國AI生態(tài)每執(zhí)行需要1個FLOP的算力的任務,花費的電費相當于美國AI生態(tài)的140%。這還沒算上更低能效帶來的更大的散熱用電需求。
但是,一旦中國與美國的AI競爭擴展到全球,相應的補貼優(yōu)勢就會削弱。這就得進一步依靠模型效率與芯片能效的提升,以及新能源與儲能出海的配合了。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.