當智算變局到來，我們該如何 “用對” 算力？| GAIR Live

卡脖子的不是模型，是“用不對”的算力。

作者丨岑峰

編輯丨陳彩嫻

2025 年的 AI 圈，終于從 “大模型崇拜” 走進了 “應用現實主義”。

當百度文心、阿里通義、騰訊混元等基礎模型的參數競賽告一段落，當 “百模大戰” 變成 “百業應用”，企業們突然發現：曾經被當作 “基建” 的算力，成了應用落地的 “勝負手”—— 不是沒有算力，而是找不到 “剛好能用” 的算力；不是算力不夠，而是 “用不對地方” 的算力在浪費；不是買不起算力，而是 “不會用算力” 的成本在吞噬利潤。

而 Oracle 與 OpenAI 簽下 3000 億美元的算力大單同樣是行業變化的風向標：這不是簡單的 “賣算力”，而是 “生態綁定”：OpenAI 需要 Oracle 的超大規模算力集群支撐 GPT-5 的訓練與推理，Oracle 則通過綁定頭部模型公司鎖定未來十年的算力需求。這反映了全球算力市場的兩個核心趨勢：

其一是 “算力需求從集中走向爆發”。大模型訓練需要巨量算力（GPT-5 的訓練算力是 GPT-3 的 10 倍），而多模態、Agent（智能體）等應用的推理算力更是指數級增長。比如一個直播 AI 中控，要同時處理視頻流、語音識別、觀眾互動，其推理算力消耗是普通文本模型的 5 倍；

其次， “算力供給從規模化走向定制化”。市場需要的，不是 “通用算力”，而是 “匹配模型需求的算力”：比如 NVIDIA 的 H20 芯片，因高顯存（80GB）、低功耗（350W）成了 “推理圣體”，而國產芯片如華為昇騰 950，因支持 FP8 精度，在短視頻推理場景下性價比超過 H100。

回到國內，我們有世界第二大的計算規模（788 百億億次每秒），有 200 多個超算 / 智算中心，但供需錯配 、技術錯配 、模式錯配、認知錯配的痛點，正在給智算市場帶來新的機會和挑戰。

正是在這樣的背景下，雷峰網 GAIR Live 于 9 月 18 日推出 “算力變革下的生存之道” 主題論壇。三位 “起而行之” 的實踐者，善思開悟四川分公司 CEO、AGI 產品負責人余溢、超云方案與生態部總經理張春雨、矩向科技 CEO黃朝波進行了分享。

這場討論沒有 “高大上” 的技術名詞，只有 “接地氣” 的問題：

• 模型公司找算力時，到底是 “選便宜的” 還是 “選好用的”？

• 算力廠商面對同質化競爭，如何從 “賣設備” 轉向 “賣服務”？

• 應用公司用算力，是 “堆 GPU” 還是 “云邊協同”？

• 未來的算力市場，是 “英偉達一家獨大” 還是 “國產芯片崛起”？

這些問題，不是 “理論問題”，而是 “生存問題”—— 當大模型的 “技術紅利” 消失，剩下的就是 “算力效率” 的比拼：誰能把算力用對地方，誰能把算力成本降下來，誰能把算力與應用綁定，誰就能在應用爆發期活下來。

在這次分享中，三位嘉賓從各自的實踐出發，沒有講 “應該怎樣”，而是講 “正在怎樣”—— 他們的判斷，是算力市場從 “混亂” 走向 “有序” 的關鍵線索；他們的經驗，是 AI 應用從 “實驗室” 走向 “產業” 的實用指南。如果你是模型公司的 CTO，想找 “性價比最高的算力”；如果你是算力廠商的 CEO，想破 “同質化競爭” 的局；如果你是應用公司的創業者，想 “用算力降本增效”，三位嘉賓會給你最直接的答案。

以下是此次圓桌討論的精彩分享，AI 科技評論進行了不改原意的編輯整理：

01

AI 算力市場的變革

岑峰：大家晚上好！我是雷峰網的岑峰。上周，Oracle 與 OpenAI 簽下了3000億美元的算力大單，這不僅標志著 AI 算力需求的大爆發，也預示著全球計算市場的深刻變革。從技術路徑到產業布局，再到供需關系和競爭規則，一切都在重構。

與此同時，我國的計算規模已達788百億億次每秒（788 EFLOPS），擁有200多個計算中心，但同時也面臨諸多挑戰。因此，我們今天將圍繞算力供給、模型研發和應用落地等多個方面，探討如何在計算變革中找到生存之道。

今晚，我們有幸邀請到三位嘉賓：善思開悟四川分公司 CEO、AGI 產品負責人余溢、超云方案與生態部總經理張春雨、矩向科技 CEO 黃潮波。我們期待今晚能進行一場深入的討論。

首先，讓我們請三位嘉賓分別介紹一下自己和他們的公司。

余溢：大家好，我是余溢。這是我的第一次創業，之前在阿里和字節主要從事國際支付合規與反洗錢業務，2023年我才開始進入智算領域。我們公司“善思開悟”致力于提供一站式 AI 解決方案，主要有三條業務線，首先是算力業務，在雅安建有西南地區規模最大的超算中心，并提供超算和智算的租賃等服務；第二個是數據業務， 擁有獨立團隊負責數據基站的數據標注服務；第三則是AI應用業務，由我負責的四川公司和 AGI 團隊，專注于“AI +行業解決方案”的應用落地。我們的生態位覆蓋了從基礎設施到下游應用的各個環節。

張春雨：大家好，我是張春雨。我目前在超云負責解決方案和生態合作工作，整個工作經歷都在算力相關廠商，曾任職于浪潮信息、H3C 等。

超云公司全稱是超云數字技術集團有限公司，公司成立于2010年，是中國電子 CEC 和云基地聯合注資成立的國家高新技術企業、工信部專精特新“小巨人”企業，超云專注于數據中心產品及服務；產品覆蓋加速計算、通用計算、信創及私有云等領域，可幫助客戶快速構建 AIDC 算力基座；依托北京、南京、廣深三大研發中心及全國營銷技術服務體系，服務于互聯網、金融、電信、制造、教育、能源及公共服務等多個行業。

黃朝波：大家好，我是黃朝波。我個人以前是做算力芯片的，做的是 CPU 芯片研發，也曾在公有云公司優刻得負責底層軟件協同創新。因此，我們的核心技術優勢在于既懂軟件又懂硬件，擅長底層的軟硬件協同創新。

我們將這一技術體系凝練為“融合計算”，包含三個維度：計算架構的異構融合、軟硬件堆棧的融合，以及云邊端的平行擴展融合。我們的理念是“授人以漁”，不直接做算力云，而是將這些技術賦能給合作伙伴，幫助他們以低門檻、專業化的方式建立自己的智算云。我們的目標是協助國內涌現幾十家甚至更多的專業智算云公司。

02

洞察市場變局

岑峰：我們都看到了 Oracle 和 Open AI 的大單，這背后不僅有算力需求的爆發，還有云廠商和大模型公司之間更深層次的一個戰略綁定和生態合作。我想請三位從各自的專業角度出發去解讀這樣的一種超級大單的一個現象，他會可能產生怎樣的一些機會和挑戰？余總，您認為這種變化趨勢的根源是什么？

余溢： 核心矛盾在于結構性失衡，機遇挑戰并存

余溢：我認為這個問題本質上是供需關系的不匹配。2023年，國內算力市場曾處于供不應求的狀態，促使企業和國家大量超前建設算力；然而到了2024至2025年，供應在局部地區大于了需求，但頭部模型廠商和大型企業仍然面臨算力緊缺的問題。

這背后有一個關鍵認知：算力不是電力，它不是一個通用的指標。不同的設備（GPU的算力( TFlops ）， 顯存大小， 顯卡帶寬， 機器內卡間連接方式，機器間連接方式等）規格各異，導致算力無法像普通商品一樣自由流通。這就好比鋼鐵，有普通生鐵，也有高精尖的特種鋼，用途和價值完全不同。

我認為，雖然局部供需錯配依然存在，但整體亂象正在趨于緩解。我的判斷基于三點：需求方、供給方和政策導向。

首先，從需求端看，訓練和推理需求都非常旺盛。大模型參數量越來越大，對算力的需求不斷“堆高”。同時，多模態和 Agent（智能體）應用的爆發，導致推理任務的計算量激增，算力消耗未來會越來越大。盡管像 DeepSeek 這樣的稀疏模型提高了算力利用率，但總體需求仍然呈上升趨勢。

其次，從供給端看，國產化芯片正在發揮作用。過去，國產芯片在基礎模型訓練上難以與 NVIDIA 競爭，但在以推理為主的應用趨勢下，其性能不斷優化，獲得了很好的利用。這讓部分原本閑置的國產算力得到了有效消耗。同時，服務器和芯片的消耗量證明整體供給是有人買單的。

最后，政策導向也起到了關鍵作用。政府及時進行窗口指導，治理了許多亂象，鼓勵企業先有需求再進行建設，而不是盲目地先建設再找客戶。這有效減少了套取補貼等行為。

總的來說，過去那些閑置的中小型算力池，特別是國產算力，在推理任務的爆發中得到了很好的利用。與要求嚴苛的訓練任務不同，推理對算力的要求相對更靈活。這一變化讓許多閑散的算力資源得到了盤活，緩解了市場的錯配問題。

岑峰：謝謝余總，余總之前曾用“大煉鋼鐵”來形容計算中心的建設，現在國家的政策也在促進合作，這與 Oracle 和 Open AI 的生態合作方向是一致的。在國產芯片算力得到更好應用的新供需局勢下，您認為會帶來哪些新的挑戰和機遇呢？

余溢：我認為這是一個機遇與挑戰并存的局面，主要體現在兩個方面：生態建設和技術創新。

首先是生態建設。對國產芯片企業來說，這是一個絕佳的時機。目前，市場對推理算力的旺盛需求正推動它們快速完善生態、提升技術和服務。許多國產芯片公司正積極上市，市場前景一片看好。但生態建設的護城河很高，就像 NVIDIA 一樣，即便是其新卡發布后，生態兼容性也需要時間去完善。

對國內企業而言，這是一個挑戰，但更是機遇。有了市場的需求，就會有更多企業去實踐、去“踩坑”，從而形成解決問題的經驗，逐步建立起自己的生態。值得一提的是，一些頭部國產芯片企業也開始放棄純自研，轉而兼容 NVIDIA 的生態，這說明“開放”是發展正道，通過兼容帶動整個上下游共同發展。

此外，技術創新也帶來了新機遇。

我覺得未來僅僅比較 GPU 的算力值，也就是多少 PFLOPs ，意義真的不大了。像A100和4090，如果只論純 GPU 算力它們差不多，但A100有 Nvlink 和 80GB 顯存，這使其能用于訓練大型模型，這是4090無法比擬的。算力并不是簡單地把不同的卡堆疊起來就能解決問題，也不能強行將不同型號的卡統一處理任務。最終我們還是要看整體算力的利用率。

現在，隨著推理業務的爆發，我們看到了一個有趣的現象。當前主流模型，比如基于MoE（Mixture of Experts）稀疏架構的模型，像 DeepSeek 或千問，雖然其基座模型的總參數量可能達到萬億級別，但在單次推理時，并非所有參數都會被激活。推理一個300B的模型，可能實際只使用了30B的參數，相當于只激活了十分之一的專家。這意味著對算力的實際消耗變少了，但對顯存的需求卻大大增加了，因為所有專家選擇的邏輯都需要存儲在顯存中。

這種變化帶來了一個重要機會：GPU 的顯存利用率變得至關重要，而純算力可能出現冗余。這就是為什么現在做推理時，24GB 或 48GB 顯存的4090，甚至一些魔改芯片，會非常好用——只要能把顯存放大，就能發揮很好的效果。

因此，對于國產芯片而言，這是一個巨大的機會。我們需要發展能夠提高顯存容量，并能更好地滿足推理需求的芯片。同時，對于現有計算中心而言，那些相對老舊的A系列或三零系列設備，如果直接淘汰將是巨大的浪費。但如果將它們重新利用，投入到推理項目中，可以大大提升現有資源的利用率，這是一個很好的老舊設備重利用機會。

最后，從運營模式上看，傳統的粗放式運營，即一個項目就將整套裸金屬資源包給一兩個大客戶的方式，在當前市場下可能不再有效。未來的趨勢是，計算中心，特別是作為第三方平臺時，需要有能力將一個大的算力集群更精細化地切分和調度，去服務大量中小型、長尾客戶，特別是那些做垂直領域或小型模型的企業。這種精細化的運營模式將能更好地匹配多樣化的算力需求，也是一個重要的市場機會。

岑峰：余總作為 AGI 應用的專家，剛才更多是從模型公司的需求以及算力提供方的角度，探討了雙方的互相促進。您認為在共建生態的整體趨勢下，未來的模型公司和算力提供方之間，如何才能實現共贏？

余溢：這個問題很有意思，因為這意味著目前雙方可能并未完全達到共贏狀態。我認為核心原因在于，當前市場供需匹配存在結構性失衡：只有少數幾家頭部模型公司對大量算力有需求，但算力供應商卻有上千家。這些供應商提供的服務相對同質化，都是標準化的設備、組網和合同，最終導致的結果就是大家陷入了純粹的價格競爭，價格被壓得很低。

要實現共贏，首先自然需要市場自身的調節。這并非一個特許經營市場，價格最終會回歸價值，市場會進行分流和淘汰。對模型廠商而言，尤其是一些非頭部企業，他們的資金多來源于融資，因此會非常謹慎地尋求最低成本的算力。他們自己也還在摸索盈利模式，所以對價格敏感度極高。

在這種環境下，算力提供方需要大幅提升自身競爭力。僅僅提供同質化服務是行不通的。一些能將價格壓得很低的競爭者，往往是通過“羊毛出在豬身上”的邏輯來盈利，例如通過二級市場獲利、獲取政府補貼、爭取綠電指標，或從其他合作項目中獲得收益，這些都在經濟合理范圍內。所以，提升自身競爭力的核心在于優化效率，避免純粹的同質化服務。

此外，我們已經看到一些外部因素正在引導市場進行健康分流。例如，政府的“窗口指導意見”，明確要求在沒有下游消納方的情況下，不得超前建設。這本質上是為了打造更健康的產業鏈，避免盲目投資。那些沒有明確下游需求而超前建設的供應商將逐步退出。同時，那些自身運營效率低、缺乏資金優勢的供應商，也將被市場淘汰或轉向服務長尾客戶。

另一個重要的共贏路徑是，算力持有方應積極開辟“第二曲線”。舉例來說，有些大廠既是算力需求方也是提供方，在投資其他模型公司時，會把算力作為投資款的重要組成部分，這是一種非常良性的投資方式。有能力的算力服務商也可以借鑒，將算力作為投資，投向與自身下游相關的初創企業。這需要一定的投資能力和對AI應用的理解力，但無疑是提升競爭力和開辟新增長點的有效方式。

最后，宏觀調控也將持續發揮作用。早期我們看到了對算力建設的大力支持，但當出現亂象后，政策迅速收緊。未來，可以期待更多宏觀調控政策出臺，對市場進行進一步規范。對于模型買方，目前期望他們主動改變現狀可能不現實，但一個明顯的趨勢是，國產化替代會越來越強勁。無論是擁有自研芯片的大廠傾向于內采，還是政府政策的積極鼓勵，都在推動整個行業向國產化方向邁進。

張春雨： 服務商的綜合服務能力越來越重要

岑峰：張總，像 Oracle 和 OpenAI 這樣大單的算力合作，您認為會給國內智算力市場帶來怎樣的沖擊或者說影響？

張春雨：我認為影響比較有限，國內市場會按自己的節奏走。雖然國外市場是全球風向標，英偉達曾引導“算力規模決定模型質量”的理念，但 DeepSeek 出現后，這一觀點已出現多元化路線。

盡管國外投資規模龐大，國內也在大力投入，如阿里三年投資3800億人民幣，騰訊、字節等也有相當規模的投入。重要的是，國內的建設節奏已受政策引導。年初的“窗口指導”正是針對此前算力摸底中發現的盲目、小規模建設導致的嚴重浪費。

現在國家正引導算力建設向八大樞紐、十大集群集中，并對規模、地點和參與方進行規范。因此，國外的大單更多是揭示未來算力趨勢，對國內具體路徑的影響有限。

前面余總也提到，目前國內算力建設已經更加謹慎。過去為爭指標而盲目建設的現象減少，取而代之的是“先有客戶再建設”的模式，甚至采取輕量化運營，積極利用閑散算力。從具體市場看，今年訓練側的建設明顯放緩，項目減少且大項目決策周期拉長。但在推理側，采購需求依然旺盛，尤其互聯網客戶對 RTX 50系顯卡等消費級算力需求量大，許多頭部算力提供商也通過間接方式服務互聯網行業。

岑峰：剛才您提到了算力需求的改變，現在市場用戶在尋找計算中心資源時，最關心的核心要素是什么？未來計算中心在技術架構和商業模式上可能出現怎樣的演變？

張春雨：目前來看，整個市場仍處于一個供大于求的階段，這一點從高端 GPU 甚至整機價格的下降就能看出來。因此，客戶在選擇算力資源時，首先關注的肯定是價格，特別是對于那些兩三年以上的長期合作訂單，價格因素至關重要。

在價格之外，客戶現在非常看重服務商的綜合服務能力。因為可選的算力資源實在太多了，他們會仔細考量你的技術與服務水平，以及提供的算力類型。例如，H系列是當前主流，B 系列是未來趨勢，而 A 系列（A100/A800）由于不支持 FP8 ，在運行 DeepSeek 這類新型模型時，性價比已大幅降低。

同時算力規模也決定了客戶的選擇意愿，能夠匹配客戶所需的大規模算力通常更具吸引力。此外，服務商過往的案例和口碑，尤其是在大模型服務方面的經驗，也是客戶評估的重要依據。最后，上線周期雖然不像2023年那樣，當時“時間就是競爭力”的概念非常突出，但現在大客戶仍要求服務商能根據他們的特定配置需求（如網卡、內存、組網、存儲等）進行快速調整和部署。

這種供大于求的局面，也讓一些中小型的算力服務商面臨嚴峻挑戰。他們多數是在前幾年風口期入場，如今設備高價購入，卻只能低價出租，加上服務能力跟不上，很多都陷入困境，不得不轉讓設備。

從技術架構的角度看，我認為未來有幾個趨勢。首先，訓練和推理之間芯片的界限正變得模糊。雖然理論上芯片有側重，但實際應用中更多是考慮性價比。例如，英偉達的 H20 芯片，雖然是 H100 的“閹割版”，但因其獨特的顯存配置，被業界譽為“推理圣體”，在處理 DeepSeek 這類模型時表現卓越，性價比甚至高于 H100 或 H200 進行推理。

其次，未來計算中心將是多元異構的。盡管在未來兩三年內，英偉達仍將占據主導地位，但國產芯片，如華為新發布的昇騰950，以及寒武紀、昆侖芯等，正迎來“百花齊放”的局面。新建的計算中心必須具備統一納管和調度包括英偉達和國產芯片在內的多種算力資源的能力。

第三，一站式服務將成為重要方向。許多垂類行業的小型企業，缺乏自行預訓練大型模型的能力，他們更需要一個直接的結果。因此，計算中心需要提供“算力+平臺+開發服務”的整體解決方案，形成類似“AI工廠”的模式，幫助客戶基于開源模型進行微調，實現特定場景的應用。

最后，智能化運維將變得至關重要。目前H系列產品在高負載下故障率較高，維修通道不暢且成本昂貴，這催生了一個龐大的維修市場。未來的技術設計必須充分考慮運維需求，包括對溫濕度、故障率的監控告警，以及處理時效性等。

在商業模式方面，也有明顯的轉變。簡單提供裸金屬租賃的模式已經很難盈利，因為設備降價快、租金持續走低、閑置率居高不下。未來將轉向更精細化、靈活的計費方式，如按卡、按 PFLOPs 、按時長、按利用率，甚至按 TOKEN 進行租賃。同時，從原來的獨享模式轉向共享模式，以提升資源利用率和整體收益。

至于算力網的概念，我個人與黃總的看法一致，并不認為簡單地將所有算力拉通就能解決效率問題。因為不同服務商的算力類型、規模、網絡帶寬、甚至應用成熟度都差異巨大。算力網絡可以解決互聯互通，但無法彌補這種本質上的能力差異。

余溢：我也想說一下我對“算力網”的看法。我一直覺得這個概念在現階段更像是人為創造的。因為它目前無法做到讓不同型號的機器協同完成一個任務。你可以把同一型號的機器連在一起，讓它們共同完成一件事，但你不能把不同型號的機器連在一起，因為它們只能處理不同的任務，無法形成一個統一的整體。

張春雨：算力網這個理念是好的，未來，隨著分布式訓練或推理技術的發展，當網絡延遲不再是主要問題，并且調度層能夠屏蔽底層不同算力的差異時，我認為實現這個目標是有可能的。但就目前來看，僅靠接入一個網絡并不能徹底解決算力消納的問題，這在現階段還不太現實。

黃朝波： 卷創新、卷模式、卷資源整合

岑峰：聽了張總的解釋，我感覺現在的計算市場有點像十年前的云計算，大家都在思考如何更好地組織和調度算力，而不是簡單地堆砌資源。黃總，您之前曾提到，計算中心會經歷一個“打時間差”的階段，最終會走向類似“綜合計算”的模式。剛才余總也提到，一些大廠會要求算力提供方提供標準化的服務。我想請教您，驅動這種“內卷”的核心因素是什么？這種趨勢對于產業鏈，特別是中小企業，又意味著什么？

黃朝波：首先，我更愿意用“綜合計算”來代替“通算”，因為它不僅涵蓋了通用的 CPU 計算，更將智算、超算、甚至是未來的量子計算和類腦計算都統籌進來。算力作為基礎設施，需要賦能千行百業，這就決定了它必須是一個綜合計算的過程。

至于您提到的“內卷”，其核心原因在于算力生產方的話語權較弱。智算中心只是最基礎的算力資源提供者，而云計算平臺會在這個基礎上進行多層增值，包括封裝成算力服務、模型和數據，以及最終的業務解決方案。這些增值環節與業務結合緊密，利潤也更高。但同時，它們要求智算中心提供相對標準化的產品，這就導致智算中心在競爭中處于不利地位，大家只能通過價格來“內卷”。

對于產業鏈上的中小企業來說，我認為這既是挑戰也是機遇。許多企業目前的“內卷”停留在低層次，比如拼價格、拼誰的毛利更低。我認為我們應該轉向更高層次的“內卷”，去卷創新、卷模式、卷資源整合。

同時，很多中小企業都試圖進行“垂直整合”，從底層算力到上層應用全鏈條都自己搞定。實際上，這種模式只有大廠才有能力做到。對于中小企業而言，更明智的做法是聚焦。在軟硬件堆棧的某個薄弱環節上，將其做到極致，然后把規模做大，這可能是提升競爭力的關鍵。

岑峰：剛才三位都提到了，未來長期來看算力會變得更加充裕，而如何提供差異化服務來獲得客戶會成為關鍵。我想請教黃總，在未來的計算產業鏈中，誰會占據更好的生態位？是掌握算力資源的計算中心，還是掌握算法和模型的廠商，又或者是掌握應用和客戶的第三方服務商？

黃朝波：我認為首先可以排除智算中心。它位于產業鏈最上游，難以控制局面，只能深陷價格戰，而且屬于重資產投入，可能更適合政府、央企和國企來做。

至于模型、算法廠商和掌握應用、客戶的第三方服務商，我認為最終有價值的形態會介于兩者之間。模型和算法本身只是工具，它必須落地到具體的行業和業務場景中才能產生價值。所以，模型公司最終一定會聚焦在自己更擅長、更有客戶資源的特定行業和場景。

而對于掌握應用和客戶的第三方企業來說，面向普通消費者的（To C）市場競爭激烈，很難形成差異化。而面向企業的（To B）市場則會面臨大量定制化需求，如果只是停留在上層應用，很容易變得業務分散，營收也難以做大。

所以，無論是從模型算法廠商，還是從應用服務商，最終都會向中間靠攏，形成一種面向特定行業和特定場景的解決方案提供商。這種形態融合了模型算法的能力和應用落地的經驗，從而在產業鏈中占據更有價值的生態位。

岑峰：黃總剛才提到了“綜合計算”這個概念，因為未來的各行各業都會有相應的計算需求。您認為對于想進入計算賽道的玩家來說，是建立服務各行各業的綜合計算能力更重要，還是專注于某個領域做精做專更重要？

黃朝波：我認為，現在再花大力氣去做那些基礎的智算建設，意義已經不大了。因為大廠在這方面已經做得非常成熟，我們很難超越。

對于中小企業來說，真正的機會在于聚焦在業務賦能和場景賦能上，也就是我們常說的“最后一公里”或“最后五公里”。換句話說，就是去做行業專屬云或領域專屬云。

至于這些企業如何獲取 MaaS、PaaS、IaaS 等基礎服務能力，我認為有兩種方式：一是自己投入研發；二是與像我們這樣的廠商合作。我們會提供底層能力，讓他們能夠專注于業務場景的賦能。這樣做不僅能降低成本，還能幫助他們快速聚焦在核心價值上。在 AI 快速發展的背景下，底層的技術各家都是重復的，沒必要自己去面面俱到，把精力集中在最能創造價值的環節，才是中小企業的生存之道。

03

破局：企業路徑與實踐

岑峰：我們剛才討論了市場的挑戰，現在我想把話題拉回到各位嘉賓所在的企業。接下來，請三位分享一下，在各自的領域，你們是如何定義和構建自己的破局路徑的？最好能結合公司正在做的具體實踐來談一談。

余溢：我們善思的 AGI 業務，核心概念是“AI+行業”。雖然我們團隊規模很小，但項目覆蓋 B端、G端 和 C端，做得事情還挺多的。

我們認為，未來的 AI 應用應該聚焦在很垂直、很細分的領域。我們的方法論是讓專業的人做專業的事：我們只負責技術，然后深度綁定行業內的合作伙伴。他們有充足的行業知識、痛點和數據，而我們則提供技術能力，共同開發垂類應用，真正把這個行業的需求吃透。

舉個例子，我們做了一款叫做“直播 AI 中控”的應用。它能用 AI 替代直播間里除了主播以外的所有人工，幫助品牌方在不影響 GMV 的情況下，大幅節省人力成本。一個直播間的中控人員一個月成本可能就要上萬，一年就是幾十萬。我們的產品就是為他們節省了這筆開支，甚至提供了很多小工具來提高整體運營效率。

再比如為政企類客戶做會議紀要產品時，我們通過技術與體驗的結合讓工具更好用：服務上，支持租賃式內網部署，滿足安全性、合規性要求；技術上，融合語音識別、語義分析、歷史文件調用、上下文理解、本地知識庫對接等多模型能力；交互上，打造類 Agent 的便捷操作界面，貼合客戶日常使用習慣 —— 讓模型從 “難用的技術” 變成 “順手的工具”。

在這里，我們并不追求使用多高級的大模型，而是始終把為客戶交付真實價值放在首位。大模型只是我們眾多技術手段中的一個工具。在那個直播項目中，我們用到了傳統的算法、機器學習模型、Transformer 大模型，還有網絡、視頻流等技術。而且作為應用方，我們也在盡量減少算力成本，通過云邊結合，甚至本地計算來提高效率、減少延遲，我覺得這也會是未來 AI 應用的一個趨勢。

最后，我想說，現在對于我們這種做AI應用的小公司來說，是一個絕佳的機會。大廠擅長做基礎模型和大賽道，但他們既不愿意也做不好那些像“毛細血管”一樣細分的垂直領域。因為大廠人力成本高、考核周期短，很難為一個小眾市場投入巨大的精力。這就給了我們這些創業企業很好的生存空間。我認為，現在最大的挑戰是懂業務的人不懂技術，懂技術的人不懂業務。我們做的，就是找到這個平衡點，通過和客戶深度綁定，確保技術能真正落地，解決實際問題。

岑峰：余總強調了解決客戶的實際問題，特別是如何幫助技術和人手都不足的創業公司破局。我想請教張總，超云是如何看待當前的機會，以及未來有什么樣的發展方向？

張春雨：我們專注于算力設備。前兩年，超云就制定了“All in AI 和 AI in All ”的戰略，意味著我們所有的重要業務都圍繞著AI展開。

在產品方面，我們目前主要聚焦推理。客戶在選擇推理整機時最關心的就是性價比和高可靠性。舉個例子，市面上有些消費級顯卡，比如 RTX 4090，在跑一些大語言模型時還好，但如果處理多模態任務，因為超頻和散熱問題，很容易出現“掉卡”現象，穩定性很差。我們就是要幫客戶解決這些痛點，提供價格合理、可靠性高，并且能批量交付的產品。

在方案方面，很多客戶都問我們，同樣是賣一款產品，為什么選擇我們。我的回答很簡單，因為我們在這個行業里服務了大量客戶，深知在什么場景下該用什么樣的卡，搭配什么樣的內存和硬盤。是選擇直通模式還是 PCIe 版本，我們都做了大量的驗證。我們不直接做應用，但我們的優勢就在于，能為客戶提供匹配特定場景的最佳方案。我們有專業的方案團隊，負責幫助客戶進行推理方案的設計，包括組網、存儲搭配以及整體調優。

我們很清楚自己的定位。超云不會去做垂直應用，而是專注于產品和方案。我印象特別深刻的是，我們很多成功的項目都離不開生態伙伴的合作。我們提供一體機這樣的硬件和平臺，而生態伙伴則負責解決客戶實際的應用落地問題。正如余總所說，如果只是單純賣機器，客戶可能根本不知道怎么用，結果當然是不太順利的。賣設備不是終點，最終還是要看它能不能真正用起來。

現在我們有了更清晰的思路。我會明確告訴客戶，我們的一體機能提供到什么程度：硬件、平臺，外加一個低代碼開發工具。這樣客戶自己就可以做一些簡單的應用，比如知識問答。但如果他們有更復雜的應用場景，比如在教育、醫療或金融等領域，我們就會匹配相應的生態伙伴。這種邊界清晰的合作模式，能讓我們專注于自己的核心優勢，同時確保客戶的實際需求得到滿足，避免我們陷入那些“苦活、累活”中。

余溢：張總說得太對了。這就是我們行業從業者的共同感受。要讓一體機真正發揮作用，關鍵在于生態伙伴，他們能結合客戶實際需求，提供終端應用服務。如果只是純粹賣機器，這東西到客戶手里，可能就用不起來。

張春雨：沒錯。這就是為什么我們現在這么幸運，有合作伙伴愿意去做這些“臟活、苦活、累活”，而我們則能專注于提供底層的、更標準化的產品和服務。岑峰：黃總，面對當前的新局面，您打算采取哪些方式來“做大做強”？

黃朝波：其實我個人對“一體機”這種模式一直不太看好，我覺得它只是一個階段性的產物。我更喜歡從終局來思考：未來三五年，市場最終會走向哪里？從公有云的發展歷史來看，它最終會統一一切，而一體機比私有云還要更“私有化”，從長期看，它必然會回歸到公有云加混合云的模式。

一體機模式面臨一個巨大的挑戰：軟件工作量非常大，而且現在的 AI 工程師很昂貴，但客戶又不舍得為軟件付費，這導致用戶體驗很差，形成惡性循環。因此，我們的觀點依然是，要回歸到大規模運營，通過公共云模式來分攤軟件成本。

04

下一個關鍵變量

岑峰：我們注意到，大模型已經進入下半場，是以應用為導向的。剛才幾位嘉賓也聊了很多。未來，如果像自動駕駛、行業大模型等各種應用爆發，會對計算市場產生哪些顛覆性的影響？三位嘉賓又如何判斷，下一個能影響計算市場生存法則的關鍵變量是什么？

黃朝波：好的，我先簡單談談我的看法。從技術架構來看，未來最大的變化是云邊端一體化。現在，英偉達的芯片架構在數據中心和終端設備上是一樣的，只是規格大小不同。由于終端算力有限，一些計算任務必須放到邊緣甚至云端去完成。對于自動駕駛這樣對算力要求極高的應用來說，云邊端一體化是必然趨勢。

要實現這個目標，對技術要求非常高，包括底層的網絡、多集群管理、跨集群調度以及上層業務的微服務重構等，這是一個非常復雜但前景廣闊的領域。一旦成功，就意味著每輛車都需要海量的算力，我們現在建設的算力將遠遠不夠。因此，未來要想真正推動智算發展，必須重點關注并投入到這些對算力需求特別大的場景中去。

至于誰將掌握話語權，我的觀點依然是：以終為始。最終的結局是算力必然過剩，這是不可避免的。算力廠商很難再像現在這樣擁有絕對的話語權，因為英偉達目前的地位是特定時期的產物。從長期來看，誰掌握了業務，誰就掌握了一切。當然，業務是碎片化的，所以最終掌握話語權的，是那些能將技術賦能到具體業務場景的平臺。核心還是回到平臺本身。

岑峰：張總，您怎么看黃總關于“平臺”和“業務賦能”的觀點？您會怎么看影響計算市場的一個關鍵變量？

張春雨：黃總在這方面見解很獨到，我完全認同。我個人認為，要說影響計算市場的下一個關鍵變量，還是“需求為王”。

不管是2023年的供不應求，還是現在的供大于求，甚至是未來誰將占據主導，都取決于需求。我覺得，未來真正的變化，會來源于現象級應用的爆發。我們現在用的豆包等應用，對算力的消耗還比較平穩，但一旦多模態的推理需求爆發出來，對算力的需求將呈指數級增長。

就在昨天，我參加一個客戶沙龍，有個客戶是做多模態視頻推理的。他告訴我，處理海量視頻數據，對顯存和算力的要求是以百萬臺 H20 為單位起步的。這個規模聽起來非常驚人，也預示著未來真正的市場大變局，一定會由這種現象級的多模態應用來驅動。

岑峰：張總剛才提到了現象級應用，那余總作為應用領域的專家，您認為哪些方向可能會產生這樣的現象級應用呢？

余溢：這個問題嘛，我只能憑感覺說了，因為我們公司做的都是些小眾的長尾賽道，專門避開那些大風口。

不過我非常認同張總說的多模態，這應該是個共識。像語音、視頻這類應用，本身對算力的消耗就非常巨大，一旦爆發，對算力市場的沖擊會是現象級的。

另外，我特別看好細分賽道里的 AI Agent。這些 Agent 需要處理多個任務來最終得到一個結果，它的運行邏輯就像是一個閉環。只要中間一步出錯，整個流程就得重新跑，所以對算力的消耗也相當可觀。我覺得未來很可能會出現一些在特定細分領域，能處理復雜多任務的現象級 Agent 應用。

還有一個方向是 AI 智能硬件。我們公司自己就在做 AI 玩具，這類產品需要處理實時的音視頻流，對即時響應的要求特別高。比如情感陪伴類的硬件，像國內的“芙崽”和海外的 Ropet，一旦規模起來，對算力的需求會很驚人。現在很多這類產品用戶體驗不好，就是因為算力跟不上。我做了之后就發現，它們確實非常缺算力，但因為成本高，大家在這方面投入得還不夠。隨著算力成本的下降和技術的成熟，智能硬件也會成為現象級應用的一個重要載體。

所以總的來說，我認為多模態、Agent 和智能硬件這些細分領域會是未來的大機會。它們雖然不像大模型那樣光鮮亮麗，但卻能解決實際痛點，并且一旦規模化，對算力的需求會呈現爆炸式增長，從而顛覆整個計算市場。

岑峰：那您認為當前 AI 應用市場的最大機遇和挑戰是什么？對于創業者來說，如何構建自己的核心競爭力，來避免陷入同質化的競爭？

余溢：我認為，機遇和挑戰其實是硬幣的兩面，要構建核心競爭力，我個人有幾個建議：

第一，要解決真需求，必須是客戶真正需要、愿意付費的業務場景。我們不能憑空想象，而要從實際痛點出發。

第二，你的團隊要具備相應的能力。這不只是技術能力，還包括對業務的深刻理解和資源整合能力。創業公司不能像大廠那樣什么都做，必須專注于自己擅長的事，把精力用在刀刃上。

第三，要避開大廠主攻的領域，因為他們的資源優勢太明顯。我們應該選擇那些大廠看不上、不愿意做的細分賽道，也就是我們常說的“長尾市場”。

最后，我想強調一點，很多人以為技術是唯一的護城河，但我認為它可能不是最重要的競爭力。因為大廠會不斷開源基礎模型，技術能力很快就會被拉平。真正的壁壘在于數據。AI 時代和之前的互聯網時代不同，復制一個產品沒那么容易了。一旦你率先進入市場，快速積累了用戶和數據，就形成了一個強大的數據壁壘，讓后來者很難追趕。

說到底，現在的機遇和挑戰其實是一體兩面。機遇在于基礎模型已經成熟、成本低廉，外部環境也已準備就緒。很多人說晚了，我反而覺得不晚，真正的應用爆發潮可能要到今年底或明年初。而挑戰也隨之而來。創業者必須選好自己能做、能把得住的賽道，踏踏實實地去深挖，而不是光停留在商業計劃書上。

岑峰：剛才余總從需求端談了如何為客戶創造價值，我想請教張總，從供給端來看，未來的計算中心運營模式會發生哪些變化？計算中心又該如何為客戶提升價值呢？

張春雨：我認為從供給端來看，未來計算中心的運營模式一定會向“易取易用”和更貼近應用的方向發展。

首先，我們會從單一的裸金屬租賃，轉向更加多元化的服務模式。這個多元化體現在兩方面：第一是使用方式上的靈活。我們不再只賣算力，而是提供各種套餐。比如，客戶可以根據需求選擇就近部署，或者選擇性價比更高的方案，甚至根據芯片類型（國產還是英偉達）來做選擇。對一些學校來說，他們可能只需要短期使用兩三個月，那就可以選擇靈活的套餐，而不需要獨占整個設備。

第二是提供增值服務。我認為可以分為兩種模式：

第一種模式我稱之為“AI工廠”模式，這是一種更高級的交付模式。我們不只提供“廚房”，而是能直接“端菜”，根據客戶的場景和預算，提供預訓練或微調等服務，幫助他們直接拿到想要的結果。

另一種模式是“AI商店”模式：這是一個更深層次的模式，我們不再是賣算力或Token，而是幫助客戶提升他們的 KPI 。比如，客戶可能希望通過我們的解決方案來“降低人力投入”或“提升效率”。我們提供的價值不再是簡單的算力，而是實實在在的降本增效。

當然，這些增值服務不是任何一家公司能單獨完成的。超云的優勢在于提供設備和平臺，但要構建一個完整的體系，我們必須和像余總、黃總這樣的公司合作，才能真正為客戶提供完整的解決方案。

岑峰：黃總，矩向科技正在將算力供給、平臺和應用消費這幾個環節串聯起來。您認為這種模式如何幫助中小服務商在激烈的競爭中找到新的生存空間，并實現可持續發展？

黃朝波：這是一個非常好的問題，也是我們一直在深入思考的方向。我想先用芯片行業的一個現象來做類比：

上世紀80年代，英特爾非常強大，它既做芯片設計，又做芯片制造。當時大家都覺得英特爾是不可戰勝的。但到了1988年，臺積電成立，專注于重資產的制造；1990年，Arm 成立，專注于技術賦能。緊接著，涌現出大量無晶圓廠的（fabless）芯片設計公司，其中的佼佼者就是英偉達、高通、博通，還有我的老東家Marvell。

我們對比一下現在的市值：英特爾市值1000多億，而英偉達市值一度超過4萬億，差不多是英特爾的三十到四十倍。這個例子說明，當產業進行分工之后，每個企業都可以輕裝上陣，聚焦在自己最擅長的創新能力上，而其他的資源都可以輕松獲取。這就是產業分工的巨大價值。

回到算力這個事情上，智算的出現給了大家機會，但時間窗口并不長。我認為，我們可以按照芯片行業的模式對智算產業進行分工，智算中心專注于重資產的算力提供，智算云：專注于業務賦能、客戶和市場營銷，技術賦能方比如我們矩向專注于提供技術支持，眾多經銷商和最終客戶專注于業務落地。

大家合力構建一個開放、分工協作的生態，很多企業現在都在努力，但往往是孤軍奮戰，努力的成果也像孤島一樣難以為繼。我們建議，未來需要有一個開放式的全新產業鏈，讓數千家公司共同參與進來。每個企業做好自己的事情，通過創新脫穎而出，最終實現共同的成長和收益。

05

QA

岑峰：接下來，我們來回答一些觀眾的問題。有觀眾提問說，不同型號的服務器現在無法“歸同”，想問一下這個研發難度大嗎？這會是一個新的機會嗎？這個問題似乎張總來回答比較合適。

張春雨：這位觀眾的用詞可能不是特別準確，他說的“歸同”應該是指統一納管、統一管理和統一調度。

我認為可以從三個層面來看，首先是統一管理和運維， 這是最基礎的層面。服務器和 PC 不同，它需要規模化部署和運維。目前，市面上已經有很多第三方軟件可以做到這一點，比如對幾百甚至上千臺不同服務器進行統一的地址分配和系統安裝。這部分的技術難度不大，也已經有很多成熟的解決方案。

統一資源調度這部分難度會高一些，服務器種類很多，有通用服務器、GPU 服務器、國產服務器等等。現在，單一的平臺已經能夠做到基本的資源調度，比如將不同類型的設備歸到一個組里，進行統一管理，這也是沒問題的。

最后是異構算力整合，這是目前難度最大、也最具有挑戰性的領域。簡單來說，就是把不同架構、不同品牌的算力整合起來，實現統一調度。比如說，當一個訓練任務來了，平臺可以根據算力閑置情況，優先分配給英偉達的 GPU，如果英偉達的算力跑滿了，再自動切換到國產算力。目前，北京有很多公司正在攻克這個難題。雖然很難，但并非完全無解。通常，只要設備不是特別小眾，都可以通過引入第三方服務來解決，但需要為此支付額外的費用。所以，這的確是一個機會，但它需要一定的技術投入和成本。

余溢：對，張總剛才說到那個異構算力的問題，我就一直覺得這個概念挺有意思的。如果我的理解沒錯，目前的技術還無法真正做到“歸同”。也就是說，你沒辦法讓一個任務同時在 NVIDIA 和另一個品牌的顯卡上協同工作。如果強行這么做，結果會是以最慢的那個為準，你快的那部分先算完了，也得等著慢的那部分，整個任務最終的速度是由最慢的那個來決定的。所以，這種方式在AI訓練場景下，效率是完全無法保證的。

張春雨：是的，沒錯，這個技術現在確實還不太成熟。我也接觸過很多客戶，他們也都在問這個問題。我覺得這塊還是得讓黃總來解釋，他才是最專業的。

黃朝波：因為我以前做芯片的，我可以稍微解釋一下。行業里有個專業術語叫“多元異構”，指的就是這個問題。我的結論很簡單：多元異構在推理場景下可以，但在訓練場景下最好別這么做。

為什么呢？因為我們做訓練時，是集群計算。同一個計算任務，最好在同一種架構上跑。計算的過程中，我們不知道會遇到多少復雜問題，所以盡量把問題簡化。而在訓練場景下，不同架構硬是湊在一起，只會讓問題變得更復雜，最終可能導致訓練失敗，反而降低了效率。

所以，正確的做法是，我們做的多元異構調度，不是讓同一個任務去跑在不同的架構上，我們的異構調度指的是不同任務在調度時被分配到不同的地方，僅此而已。同一個計算任務，不能多元。

岑峰：對，幾位嘉賓剛才的解答非常透徹，也讓我們更清楚地認識到，客戶對這個領域的認知還需要一個逐步加深的過程，這場對話讓我們對智算市場的現狀和未來有了更清晰的理解。

最后，我想請三位嘉賓各自用一句話做個總結，對智算市場的未來進行展望，或者給正在這個賽道上的企業和個人一些建議。

余溢：謝謝主持人。我的總結是，我對未來市場非常有信心。

首先，我認為整個 AI 市場未來會分流和分層，變得更專業化。頭部企業會繼續深耕頭部市場，而中小企業和創業者則會專注長尾市場。每個團隊都能找到自己的生態位，各司其職，競爭格局也會因此變得更清晰。

其次，我堅信，真正的 AI 應用爆發期就在未來一年內。應用的爆發會帶動整個行業生態一起進步，而技術的每一次更新，也都會推動整個行業向前發展。

張春雨：我的看法跟余總很相似。首先，前不久國務院發布的“人工智能+”政策，我相信它會像當年的“互聯網+”一樣，甚至潛力更大。根據我十幾年的行業經驗，我預測未來5到10年，算力市場依然會保持非常高的增速。

另外，從從業者的角度看，不管是做芯片、整機、平臺還是應用，只要我們能深耕和聚焦，就一定會有所收獲。

黃朝波：我總結三點吧。第一，我們認為現在這種算力調度和轉售業務可能只是一個臨時狀態，未來必然會走向消亡。

第二，智算云才是未來。我們推斷，未來的智算云市場可能會呈現“三七開”的局面，即70%的市場由巨頭主導，另外30%則由專業的輕量化廠商來占據。這些廠商將更專注于創新，以地域或行業為特色，更容易實現快速迭代和演進。

第三，我想特別提到國務院的 AI 政策，里面有一個詞引起了我的關注：“AI原生”。它和“AI+”是完全不同的概念。“AI+”是 AI 賦能現有業務，而“AI原生”意味著要推倒重來，重新構建業務、場景和服務體系。這給了我們很多啟發，也希望未來能有更多朋友一起討論。

岑峰：感謝三位嘉賓的精彩分享。今天由于時間關系，我們的線上圓桌就暫時到這里了。就像大家所說，這個領域變化非常快，所以我們也會和嘉賓們保持密切溝通。再次感謝三位嘉賓和所有觀眾的參與。

未經「AI科技評論」授權，嚴禁以任何方式在網頁、論壇、社區進行轉載！

公眾號轉載請先在「AI科技評論」后臺留言取得授權，轉載時需標注來源并插入本公眾號名片。