面對(duì)英偉達(dá)的挑戰(zhàn)，中國的國產(chǎn)算力地圖正在形成

這幾年最火爆的公司，英偉達(dá)一定是其中之一。

隨著全球?qū)I算力需求的增長，做GPU芯片的英偉達(dá)，在近兩年內(nèi)總市值增長很快，實(shí)現(xiàn)了歷史性的“三連跳”，躋身世界第二。

一年前的2023年5月英偉達(dá)成為首個(gè)市值超過1萬億美元的半導(dǎo)體企業(yè)，今年2024年2月突破2萬億美元， 之后又在僅僅4個(gè)月后的 6月5日這一天，總市值首次突破3萬億美元大關(guān)，達(dá)到3.0118萬億美元，超越蘋果，僅次于微軟，成為 全球繼蘋果和微軟之后歷史上第3家總市值超過3萬億美元的公司。

但由于美國的對(duì)華技術(shù)封鎖天花板戰(zhàn)略，英偉達(dá)先進(jìn)的GPU算力硬件現(xiàn)在并不能被中國使用。

美國先是在2022年10月宣布禁止向中國出口A100和H100芯片，這里面像H100是當(dāng)時(shí)美國人工智能公司（比如推出了ChatGPT的OpenAI公司）的主流首選芯片，功能很強(qiáng)大。

后來英偉達(dá)宣布針對(duì)中國市場推出了A800和H800，性能比A100和H100稍差一些，但性能剛好低于美國的禁令要求， 這也體現(xiàn)了英偉達(dá)想繼續(xù)在中國做生意的想法，但這兩個(gè)也在2023年10月被美國要求禁止出口了。

現(xiàn)在中國企業(yè)能從英偉達(dá)買的，只有低性能的老款芯片。

當(dāng)然我國的互聯(lián)網(wǎng)公司等都在禁令前囤了不少芯片，所以暫時(shí)沒有太大影響，但長期看對(duì)我國形成嚴(yán)峻的算力增長挑戰(zhàn)。

1.一方面是我國算力的增長受到無法繼續(xù)獲得先進(jìn)硬件和軟件生態(tài)的制約， 另一方面又是國內(nèi)由于人工智能不斷發(fā)展，已有上百個(gè)大模型出現(xiàn)，并開始應(yīng)用于各行各業(yè)，對(duì)算力的需求在迅猛增長。

在人工智能的發(fā)展歷史上， 大模型被認(rèn)為是一個(gè)分水嶺， 此前業(yè)界更多關(guān)注和討論的是機(jī)器如何感知世界，例如識(shí)別日常生活中的各種物體，聽懂人類的語言等等。

而現(xiàn)在則是通過大模型的生成能力創(chuàng)造數(shù)字世界，預(yù)測未來趨勢(shì)。

通過對(duì)海量數(shù)據(jù)的預(yù)訓(xùn)練，大模型可以在超高維度空間上對(duì)人類全部知識(shí)進(jìn)行高度壓縮，進(jìn)行微調(diào)就可以完成多個(gè)應(yīng)用場景任務(wù)的泛化，應(yīng)用到千行百業(yè)。

因此大模型技術(shù)現(xiàn)在成為人工智能發(fā)展的焦點(diǎn)。

而大模型又對(duì)算力需求很高， 2022年11月，美國OpenAI公司的ChatGPT發(fā)布在全球業(yè)界掀起了震動(dòng)，我當(dāng)時(shí)寫過一篇文章：

而那之后受ChatGPT熱潮帶動(dòng)，國內(nèi)各個(gè)公司大模型新品不斷推出， 截 至 2 023年7月，中國累計(jì)已經(jīng)有130個(gè)大模型問世。

今年3月底的時(shí)候，我看到問答大模型比較火爆，就推薦給了我老婆，因?yàn)樗粘９ぷ餍枰罅康臋z索，而這種問答式的AI極大方便了她的工作，最近幾個(gè)月，也有公司找我發(fā)AI大模型的廣告。

而大模型的推理和訓(xùn)練場景都需要大算力，大模型訓(xùn)練通常需要數(shù)千張GPU卡，基于TB級(jí)別的數(shù)據(jù)，耗時(shí)幾個(gè)月進(jìn)行訓(xùn)練，然后其他用戶在預(yù)訓(xùn)練大模型的基礎(chǔ)上再進(jìn)行強(qiáng)化學(xué)習(xí)，而這需要數(shù)百張GPU卡，耗時(shí)一兩個(gè)月。做大模型的企業(yè)越多，大模型的訓(xùn)練規(guī)模越大，則多GPU卡的需求越大，不僅是百卡和千卡，有的大模型甚至需要萬卡以上進(jìn)行訓(xùn)練。

行業(yè)數(shù)據(jù)顯示，全球過去10年AI算力需求翻了30萬倍，而在未來10年AI算力將再增長500倍。

2.中國開始啟動(dòng)“東數(shù)西算”國家工程，大規(guī)模建設(shè)全國算力基礎(chǔ)設(shè)施已經(jīng)三年以上了

面對(duì)算力增長的挑戰(zhàn)，中國并非無動(dòng)于衷，而是早已認(rèn)識(shí)到了算力的重要性，把其視為基礎(chǔ)設(shè)施的一部分。

早在201 8年12月，中央經(jīng)濟(jì)工作會(huì)議就已經(jīng)把5G、人工智能、工業(yè)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等新型基礎(chǔ)設(shè)施建設(shè)列為2019年經(jīng)濟(jì)建設(shè)的重點(diǎn)任務(wù)之一。

而根據(jù)央視新聞2019年3月2日的報(bào)道，“新基建”指發(fā)力于科技端的基礎(chǔ)設(shè)施建設(shè)，主要包括七大領(lǐng)域：5G基建、特高壓、城際高速鐵路和城際軌道交通、新能源汽車充電樁、大數(shù)據(jù)中心、人工智能和工業(yè)互聯(lián)網(wǎng)。

這里面大數(shù)據(jù)中心包含了機(jī)房樓，網(wǎng)絡(luò)，供電，溫控，存儲(chǔ)服務(wù)器，通用服務(wù)器等設(shè)施以及上面跑的各種軟件應(yīng)用等。

而人工智能其實(shí)也是跑在數(shù)據(jù)中心上的，只是因?yàn)楹苤匾粏为?dú)拿出來， 指的是 能夠支撐各種人工智能應(yīng)用的，包括AI服務(wù)器以及上面的AI芯片在內(nèi)的專門用于計(jì)算的軟硬件基礎(chǔ)設(shè)施。

像上面這個(gè)定義的七大新基建，到今天已經(jīng)五年多了。

為什么國家如此重視算力基礎(chǔ)設(shè)施的發(fā)展？

因?yàn)椤叭斯ぶ悄?”早已經(jīng)是國家戰(zhàn)略，每個(gè)行業(yè)都要用人工智能提升生產(chǎn)力和效率，而 沒有算力服務(wù)基礎(chǔ)設(shè)施的支撐，人工智能的大發(fā)展就無從實(shí)現(xiàn)， 這就跟沒有十幾年前4G網(wǎng)絡(luò)的普及，也就不會(huì)有移動(dòng)互聯(lián)網(wǎng)的大爆發(fā)一樣，我們今天用手機(jī)點(diǎn)外賣，購物，視頻通話，直播等生活方式，實(shí)際上都是基于4G高速移動(dòng)網(wǎng)絡(luò)基礎(chǔ)設(shè)施普及這個(gè)基礎(chǔ)。

中國 早在2021年就規(guī)劃了東數(shù)西算工程，包括遍布 全國的 八個(gè)算力樞紐（分別是京津冀樞紐，長三角樞紐，粵港澳樞紐，內(nèi)蒙古樞紐，寧夏樞紐，甘肅樞紐，成渝樞紐和貴州樞紐）以及分布在這八個(gè)樞紐的 10個(gè)算力中心集群。

國家發(fā)改委發(fā)布的《關(guān)于深入實(shí)施“東數(shù)西算”工程加快構(gòu)建全國一體化算力網(wǎng)的實(shí)施意見》指出，要加快構(gòu)建全國一體化算力網(wǎng)，以算力高質(zhì)量發(fā)展支撐經(jīng)濟(jì)高質(zhì)量發(fā)展。

國家希望國內(nèi)能夠提供算力服務(wù)的企業(yè)，統(tǒng)一在這些樞紐建立算力中心集群，為全國千行百業(yè)提供算力服務(wù)。

而這八大樞紐的選擇，綜合考慮了能源價(jià)格（數(shù)據(jù)中心很耗電，而西部能源基地價(jià)格低，也比電力傳輸?shù)綎|部再用于計(jì)算更低損耗）和時(shí)延的因素，西部能源價(jià)格低，所以東部的數(shù)據(jù)放在西部計(jì)算能夠降低成本，同時(shí)考慮到時(shí)延因素，因此也在京津冀，長三角和粵港澳三大數(shù)據(jù)流量高地設(shè)立樞紐，那些對(duì)時(shí)延要求的高的需求就在這里計(jì)算，其余的可以在西部樞紐進(jìn)行計(jì)算。

下圖是我在發(fā)改委官網(wǎng)找的，2021年5月26日，國家發(fā)改委高技術(shù)司司長就在貴陽正式宣布八大國家算力樞紐節(jié)點(diǎn)建設(shè)正式啟動(dòng)，這個(gè)時(shí)間到今天已經(jīng)三年以上了。

國內(nèi)各大企業(yè)都在緊跟國家八大樞紐戰(zhàn)略。

以華為為例，其 華為云華東（蕪湖）數(shù)據(jù)中心，就于2024年6月14日在安徽蕪湖正式開服，也成為蕪湖集群首個(gè)開服的項(xiàng)目。

不只是華為，其他還有中國電信、中國移動(dòng)、中國聯(lián)通、中科曙光、火山引擎等15個(gè)龍頭企業(yè)數(shù)據(jù)中心項(xiàng)目都將在蕪湖集群落地。

安徽這些年經(jīng)濟(jì)不錯(cuò)，經(jīng)濟(jì)總量和人均GDP都在全國排名上升很多，而蕪湖集群則是八大算力樞紐--長三角樞紐的重要節(jié)點(diǎn)，蕪湖集群的建設(shè)不僅可以支持華東長三角區(qū)域的算力需求， 蕪湖自身也 因?yàn)?數(shù)據(jù)中心集群的建設(shè)而受益，或?qū)⒊蔀樘峁┧懔A(chǔ)設(shè)施的 智算之城 。

而華為云的蕪湖數(shù)據(jù)中心開服后，就和已經(jīng)部署的內(nèi)蒙烏蘭察布數(shù)據(jù)中心，以及貴州的貴安數(shù)據(jù)中心一起作為華為云的三大數(shù)據(jù)中心，在全國地理位置上形成“鐵三角”，構(gòu)成AI算力一張網(wǎng)。

華為云數(shù)據(jù)中心提供的云算力服務(wù)就是昇騰云服務(wù)。

華為的烏蘭察布+貴安+蕪湖數(shù)據(jù)中心鐵三角AI算力一張網(wǎng)+昇騰云服務(wù)， 可以分別對(duì)應(yīng)支持國內(nèi)京津，長三角，珠三角三大流量高地，可在區(qū)域內(nèi)實(shí)現(xiàn)10ms以內(nèi)的時(shí)延，支撐自動(dòng)駕駛，大語言模型等區(qū)域內(nèi)的需求。

3.為什么不管是中國的國家戰(zhàn)略布局，還是華為的鐵三角布局，都是采取建設(shè)大型數(shù)據(jù)中心集群提供云服務(wù)的形式？而不是讓每個(gè)企業(yè)都自建數(shù)據(jù)中心呢？

原因并不復(fù)雜，從國家的角度來講，是希望實(shí)現(xiàn)全國算力規(guī)模化，集約化的發(fā)展。像中國電信的副總經(jīng)理在接受央視記者采訪時(shí)說，2021年中國電信集團(tuán)數(shù)據(jù)中心耗電量就高達(dá)56億度，竟然占到了集團(tuán)總耗電量的20%。

從國家頂層設(shè)計(jì)來講，東數(shù)西算的國家工程是像南水北調(diào)，西電東送一樣，通過統(tǒng)一的規(guī)劃建設(shè)，不僅能集約利用能源，還能降低算力成本，而如果是四處開花，顯然不利于實(shí)現(xiàn)低成本，高能效，規(guī)模化。

而從企業(yè)的角度來講， 大模型的推理和訓(xùn)練場景都需要大算力，動(dòng)輒就是幾千張GPU卡，規(guī)模更大的需要上萬張GPU卡，而一張GPU卡動(dòng)輒就是幾萬，十幾萬乃至二十幾萬人民幣，這還不算數(shù)據(jù)中心的其他投資，這就導(dǎo)致如果自建數(shù)據(jù)中心，那么硬件投資金額就不會(huì)小。

而且硬件技術(shù)更新速度快，未來還可能面臨需要更新硬件的問題。

同時(shí)，AI算力對(duì)數(shù)據(jù)中心基礎(chǔ)設(shè)施的設(shè)計(jì)是很大挑戰(zhàn)，由于AI服務(wù)器的功率密度遠(yuǎn)超通用服務(wù)器，單機(jī)柜的功耗是過去的6-8倍，并需要專用的液冷系統(tǒng)進(jìn)行散熱，才能降低PUE（能效比）。

另外AI大模型訓(xùn)練動(dòng)輒需要千卡乃至萬卡，服務(wù)器之間的互聯(lián)、時(shí)延、可靠性、運(yùn)維極為挑戰(zhàn)。而時(shí)延和可靠性直接影響到大模型的訓(xùn)練。

因此企業(yè)自建數(shù)據(jù)中心，一旦算力需求高，則不僅建設(shè)周期長，投資金額大，而且還需要專業(yè)的運(yùn)維團(tuán)隊(duì)運(yùn)維，對(duì)專業(yè)知識(shí)技能要求很高，而且有的企業(yè)的算力需求還是潮汐型的，這就讓自建數(shù)據(jù)中心更加不劃算。

不僅如此， 各地政府還根據(jù)碳達(dá)峰和碳中和戰(zhàn)略提出“綠色數(shù)據(jù)中心”要求，IDC新建/擴(kuò)容嚴(yán)格受限。

相比之下，由類似華為云等國內(nèi)的各種云計(jì)算公司統(tǒng)一建數(shù)據(jù)中心提供算力服務(wù)，由云計(jì)算公司專業(yè)的提供穩(wěn)定可靠的算力保障， 各個(gè)企業(yè)去租用云計(jì)算公司的服務(wù)， 具有即開即用、按需使用、靈活部署、集群算力、專業(yè)服務(wù)、運(yùn)維&安全等優(yōu)勢(shì) 。

因此AI算力高度依賴云化部署，是行業(yè)的主流。 算力被認(rèn)為是和自來水，電力等一樣的基礎(chǔ)設(shè)施，那么由專業(yè)的云計(jì)算公司來建設(shè)數(shù)據(jù)中心提供算力，是最優(yōu)解，這就跟中國的自來水，電力，道路，橋梁等基礎(chǔ)設(shè)施都不是由使用者來建設(shè)，而是由專業(yè)的公司來建設(shè)和運(yùn)維一樣，這樣才成本最優(yōu)且最有效率。

4.各國算力基礎(chǔ)設(shè)施比拼的是全棧能力，英偉達(dá)的芯片是算力中的重要一環(huán)，但并非是全部。

在2022年和2023年，美國連續(xù)禁止英偉達(dá)先進(jìn)算力芯片出口中國的背景下，國內(nèi)更多把中美算力競爭的焦點(diǎn)注意到芯片和對(duì)應(yīng)的軟件生態(tài)上。

但先進(jìn)算力的競爭力比拼，芯片只是其中一環(huán)，而是要考慮全棧能力。

那么什么是全棧能力呢？

以華為云6月14日開服的這個(gè)蕪湖數(shù)據(jù)中心為例，我們可以從華為云昇騰云服務(wù)講的提供哪些算力服務(wù)，看一下國內(nèi)一線的算力云服務(wù)公司，是如何考慮算力基礎(chǔ)設(shè)施服務(wù)的競爭力的。

首先要考慮資源獲取快的問題。

算力服務(wù)需要考慮兩個(gè)公認(rèn)的難題，一是硬件的可獲得性，二是要快速獲得算力。

硬件可獲得性的挑戰(zhàn)，在過去的幾年中國企業(yè)已經(jīng)一再的有了感受，各種先進(jìn)芯片的獲取越來越難。

像華為等國內(nèi)TOP AI芯片和相應(yīng)的軟件生態(tài)供應(yīng)商，在快速的提供用戶需要的算力方面就具有很大的優(yōu)勢(shì)，用戶不需要去高價(jià)搶購GPU算力卡，而是可以直接在華為云官網(wǎng)購買昇騰AI云服務(wù)，有充足的AI算力可以獲取， 同時(shí)也避免了自建AI數(shù)據(jù)中心動(dòng)輒半年一年以上的長周期等待等問題。

另外還要考慮模型遷移快的問題，簡單的說就是要方便簡單，可靠，快捷的把基于國外軟硬件生態(tài)開發(fā)的模型和應(yīng)用遷移到國產(chǎn)算力中心上。

很多用戶已經(jīng)基于英偉達(dá)或者其他公司的框架，生態(tài)構(gòu)建了自己的大模型和應(yīng)用，如果購買了國產(chǎn)的云算力服務(wù)，就必須考慮到軟件遷移的問題，因此國產(chǎn)云算力服務(wù)不僅僅是提供計(jì)算硬件，存儲(chǔ)等，而且還要提供了 大模型開發(fā)、通用AI開發(fā)及算力調(diào)優(yōu)三大全流程工具鏈，要使得 典型場景遷移至生產(chǎn)環(huán)境時(shí)間小于2周以內(nèi)。

當(dāng)然非常重要的就是故障恢復(fù)快。

算力服務(wù)的可靠性非常重要，故障恢復(fù)越快，越有利于客戶的業(yè)務(wù)。

具有主動(dòng)診斷故障功能的云算力中心，可以主動(dòng)運(yùn)維而非故障后發(fā)現(xiàn)處理問題， 這樣可以有效避免訓(xùn)練中斷，確保集群長穩(wěn)運(yùn)行。

像國內(nèi)頭部云算力服務(wù)公司已經(jīng)可以做到集群故障1分鐘發(fā)現(xiàn)，5分鐘診斷，10分鐘恢復(fù)。

還有時(shí)延問題，這個(gè)國家在八大樞紐十大集群布局時(shí)已經(jīng)考慮了，對(duì)于時(shí)延要求高的應(yīng)用要做到10ms以內(nèi)的時(shí)延水平。

當(dāng)然最后還要考慮云上性能優(yōu)。

衡量一個(gè)云算力中心的服務(wù)，可以從模型訓(xùn)練效率高低來評(píng)估，而 MFU(Model FLOPs utilization)是評(píng)估模型訓(xùn)練效率的通用指標(biāo)，其含義是實(shí)際吞吐量與假設(shè)最大吞吐量之比，直接反映端到端的訓(xùn)練速度。

而影響MFU的有三大因素（算子、顯存、通訊）。

這個(gè)算子是什么東西呢？深度學(xué)習(xí)算法由一個(gè)個(gè)計(jì)算單元組成，我們稱這些計(jì)算單元為算子（Operator，簡稱Op）。

而顯存是顯示內(nèi)存，是和GPU配合用于圖像顯示的芯片。

通過對(duì)算子，顯存，通訊的軟件優(yōu)化，可以提升MFU指標(biāo)。

因此模型訓(xùn)練效率MFU更優(yōu)的云算力服務(wù)廠家，也具有更高的云上性能。

5.誰在算力基礎(chǔ)設(shè)施上領(lǐng)先，誰就能在人工智能競賽中領(lǐng)先

中國的家用電器，電動(dòng)車為什么那么普及，物流效率為什么那么高，成本又那么低，跟基礎(chǔ)設(shè)施大規(guī)模建設(shè)有很大關(guān)系。

就以電動(dòng)車為例，中國電動(dòng)車滲透率在2024年已經(jīng)在逐漸接近單月50%，這其中原因就是中國不僅有強(qiáng)大的電網(wǎng)消納大量電動(dòng)車的充電功率和電量需求， 而且是因?yàn)橹袊罅膭?lì)充電站建設(shè)，把充電樁列為新型基礎(chǔ)設(shè)施之一，中國現(xiàn)在充電基礎(chǔ)設(shè)施就遠(yuǎn)比國外更加普及，現(xiàn)在在深圳給車充電，很容易就能找到充電站。

這直接導(dǎo)致2023年底，中國市場的電動(dòng)汽車數(shù)量比全球其他所有國家加起來還多，或者說，比歐美加起來還多。

而人工智能的發(fā)展也是一樣的，通過2022年11月發(fā)布的ChatGPT，以及2024年2月發(fā)布的Sora，我們知道了AI大模型技術(shù)可以用于人機(jī)對(duì)話，以及文本生成視頻， 但AI大模型的發(fā)展遠(yuǎn)不止這些領(lǐng)域，它不僅可以用于面向ToC領(lǐng)域進(jìn)行應(yīng)用，也還有千行百業(yè)的toB應(yīng)用。

國內(nèi)大中小型企業(yè)要想有效的把人工智能技術(shù)應(yīng)用于自己的行業(yè)，都需要開發(fā)自己行業(yè)的大模型，因此就勢(shì)必需要能夠快速獲得，并且穩(wěn)定可靠的各種算力服務(wù)。

還是拿華為云舉個(gè)例子， 華為云昇騰云服務(wù)不僅考慮了模型遷移問題， 而且開發(fā)了盤古大模型工程套件， 包括數(shù)據(jù)工程、模型開發(fā)和應(yīng)用開發(fā)三大套件，支持 各行各業(yè)的大中小型企業(yè)，基于盤古大模型工程套件，進(jìn)行適配本行業(yè)的大模型開發(fā)。

完成一個(gè)千億行業(yè)模型端到端開發(fā)，從過去需要5個(gè)月縮短到現(xiàn)在1個(gè)月，整體速度大大提升。

因此，中國希望提供給各行各業(yè)的算力基礎(chǔ)設(shè)施服務(wù)：

不僅僅是硬件芯片可以持續(xù)獲取和更新，而不是到處搶購GPU卡，

也不僅僅是可以快速獲得低時(shí)延的服務(wù)，

也不只是算力服務(wù)高可靠，故障恢復(fù)時(shí)間快，

而且是可以基于算力服務(wù)供應(yīng)商提供的大模型工程套件，更簡單的迅速開發(fā)適用于本行業(yè)的人工智能大模型，快速的實(shí)現(xiàn)人工智能+的發(fā)展。

換言之有了這些基礎(chǔ)能力，中國千行百業(yè)走向智能化才有了生長的黑土地，而我們也看到國內(nèi)已經(jīng)有一批企業(yè)在努力的 做這件事情。

對(duì)于中美未來在算力領(lǐng)域的競爭，我是樂觀的，

因?yàn)榫蛷幕A(chǔ)設(shè)施建設(shè)這一點(diǎn)來說，從電網(wǎng)，高速公路，高速鐵路，橋梁，5G網(wǎng)絡(luò)，自來水到充電基礎(chǔ)設(shè)施，作為基建狂魔的中國并不弱于美國，甚至很多方面還是領(lǐng)先的。而就企業(yè)的研發(fā)實(shí)力來說，像華為這樣的企業(yè)，在5G手機(jī)芯片，數(shù)據(jù)庫，大模型等軟硬件方面，也一直在突破。

就跟中國強(qiáng)大的移動(dòng)網(wǎng)絡(luò)基礎(chǔ)設(shè)施催生了無數(shù)的移動(dòng)互聯(lián)網(wǎng)應(yīng)用一樣，中國的算力基礎(chǔ)設(shè)施不斷完善和進(jìn)步，也會(huì)像黑土地一樣，更容易產(chǎn)生各種類似ChatGPT，Sora，以及應(yīng)用于各行各業(yè)的to B行業(yè)大模型應(yīng)用。

希望本文的簡單介紹，能夠讓人對(duì)我國政府和企業(yè)在如何應(yīng)對(duì)英偉達(dá)為首的美國公司帶來的算力競爭壓力有所了解。