200億美元的人才收購(gòu)值了！英偉達(dá) Groq 芯片下半年問(wèn)世

早在去年 12 月底，英偉達(dá)就以200 億美元的價(jià)格對(duì) Groq 開展了一次 “人才收購(gòu)”，拿下了該公司大部分開發(fā)團(tuán)隊(duì)，并獲得了其用于 AI 推理的 LPU 數(shù)據(jù)流引擎底層技術(shù)授權(quán)。外界原本預(yù)計(jì)，英偉達(dá)會(huì)迅速部署由喬納森?羅斯打造的張量流處理器。這位前谷歌工程師在離開這家搜索巨頭后，設(shè)計(jì)出了一款全調(diào)度、可編程的張量處理器。隨著生成式 AI 熱潮興起，這款處理器被更名為語(yǔ)言處理單元（LPU），但架構(gòu)并未改變。如今，英偉達(dá)正與三星合作，將第三代LP30 芯片推向市場(chǎng)。英偉達(dá)聯(lián)合創(chuàng)始人兼首席執(zhí)行官黃仁勛在2026 年 GTC 大會(huì)開幕主題演講中表示，這款芯片將在今年下半年上市，極有可能是第三季度。

英偉達(dá)一刻也沒(méi)有耽誤，因?yàn)樗竞牟黄稹roq 原本已經(jīng)開始在低延遲推理領(lǐng)域嶄露頭角，就像 Cerebras Systems 以及 SambaNova Systems 一樣 —— 這兩家公司主打超高帶寬 SRAM，搭配相對(duì)精簡(jiǎn)的算力，在大量計(jì)算引擎上實(shí)現(xiàn)極速推理。在對(duì)速度要求極高的場(chǎng)景下，這些系統(tǒng)廠商以及數(shù)十家試圖規(guī)模化做推理的初創(chuàng)公司，就像一群食人魚撲向站在亞馬遜河里的一頭肥牛。所以英偉達(dá)必須火速行動(dòng)……

于是就有了這筆轟動(dòng)業(yè)界的 200 億美元 Groq 人才收購(gòu)。之所以沒(méi)有直接全資收購(gòu)，是因?yàn)槟菢涌赡苄枰粌赡陼r(shí)間，還未必能通過(guò)全球反壟斷機(jī)構(gòu)的審查。也正因如此，Groq 的技術(shù)被立刻整合進(jìn)了Vera-Rubin平臺(tái)。鑒于黃仁勛在主題演講中提到，低延遲、高定價(jià)的 Token 生成算力，大約會(huì)占到 AI 集群總算力的 25%，這個(gè)平臺(tái)其實(shí)更應(yīng)該被稱作Vera-Rubin- Groq 平臺(tái)。

還記得英偉達(dá)在 2025 年 9 月曝光的RubinCPX 大上下文計(jì)算引擎嗎？那款基于Rubin架構(gòu)變體、搭配更便宜、供應(yīng)更充足的 GDDR7 顯存的產(chǎn)品？

“我們想到了一個(gè)絕佳的思路，” 英偉達(dá) AI 與高性能計(jì)算副總裁伊恩?巴克在 GTC 2026 會(huì)前的系統(tǒng)發(fā)布溝通會(huì)上表示，“將 LPU 和 LPX 整合進(jìn)我們的Rubin平臺(tái)，對(duì)解碼環(huán)節(jié)進(jìn)行優(yōu)化。這是我們當(dāng)前的重點(diǎn)，我們也很期待將它推向市場(chǎng)。”

換句話說(shuō)，RubinCPX 項(xiàng)目直接被砍掉了。

黃仁勛在臺(tái)上對(duì)比了兩款芯片：一邊是我們推測(cè)的“Rubin” R200 GPU 加速器，另一邊是 Groq 的 “Alan-3” LP30 推理加速器。前者是通用型、動(dòng)態(tài)調(diào)度的計(jì)算引擎，非常擅長(zhǎng)批量處理大量推理任務(wù)，通過(guò) HBM 堆疊內(nèi)存做流水線處理，延遲適中，能支持大量并發(fā)用戶。（這就是 GPU。）后者則是以機(jī)柜為單位、算力相對(duì)精簡(jiǎn)、專為推理設(shè)計(jì)、靜態(tài)調(diào)度、確定性運(yùn)行的計(jì)算引擎，多芯片協(xié)同工作，通常只為少量用戶服務(wù) —— 大多數(shù)時(shí)候甚至只服務(wù)一個(gè)用戶。它會(huì)把模型權(quán)重（而非數(shù)據(jù)）分布在整體 SRAM 中，機(jī)器加得越多，Token 生成的響應(yīng)速度就越快。

如果把 GPU 比作脫粒機(jī)，那 LPU 就是速度狂魔。二者可以通過(guò) Dynamo 推理軟件棧協(xié)同工作，在吞吐量和延遲區(qū)間內(nèi)形成一條更均衡的推理性能帕累托曲線。

以下是R200 和 LP30 芯片的規(guī)格與性能：

更完整的對(duì)比還需要考慮整套系統(tǒng)的內(nèi)存層級(jí)，包括主機(jī)處理器中的閃存和主存，但大致意思已經(jīng)很明顯。另外，如果統(tǒng)一按 FP8 浮點(diǎn)算力計(jì)算，相同精度下二者性能差距為21 倍；如果 AI 工作負(fù)載的解碼部分能用上 FP4—— 這個(gè)前提條件并不容易滿足 —— 那么 R200 的理論峰值性能將達(dá)到 LP30 的42 倍。

但再看看 GPU 的復(fù)雜程度，這直接和成本掛鉤。R200 的物料成本里，絕大部分都會(huì)花在 HBM4 堆疊內(nèi)存以及連接內(nèi)存與 GPU 所需的中介層上。所以必須認(rèn)清一點(diǎn)：這位 “速度狂魔” 不僅延遲比 “脫粒機(jī)” 低得多，在達(dá)到合理交互體驗(yàn)的前提下，單 Token 成本也可能更低。

當(dāng)下，AI 正從人類和聊天機(jī)器人交互，轉(zhuǎn)向智能體 AI 之間高速對(duì)話、自主完成任務(wù)的時(shí)代。這類場(chǎng)景速度更快、推理更強(qiáng)，Token 生成量呈指數(shù)級(jí)增長(zhǎng)。在這種趨勢(shì)下，一個(gè)關(guān)鍵點(diǎn)顯而易見：像 Groq、Cerebras、SambaNova 這樣的架構(gòu)將會(huì)變得越來(lái)越重要。谷歌 TPU、亞馬遜 Trainium 也必然會(huì)推出專門面向智能體 AI 推理的版本，在內(nèi)存帶寬和算力之間取得更好平衡，同時(shí)不犧牲內(nèi)存容量。

后續(xù)我們會(huì)對(duì)硬件做更深入的拆解，敬請(qǐng)期待。目前我們先梳理黃仁勛與巴克披露的戰(zhàn)略思路。你只需要看懂兩條帕累托性能曲線：一條是傳統(tǒng)、當(dāng)前和未來(lái)連貫 GPU 內(nèi)存域系統(tǒng)的曲線，另一條是加入 Groq 設(shè)計(jì)的 LP30 之后的曲線。按照黃仁勛對(duì)推理市場(chǎng)的構(gòu)想，目標(biāo)是用推理硬件覆蓋從免費(fèi)到高端的全層級(jí)服務(wù)，這個(gè)思路是合理的。

下面是Hopper NVL8、Grace-Blackwell NVL72 和Vera-Rubin NVL72 系統(tǒng)在吞吐量（每兆瓦每秒 Token 數(shù)）和交互性（每用戶每秒 Token 數(shù)）上的對(duì)比：

顯而易見，借助 NVSwitch 實(shí)現(xiàn)的更大 GPU 共享內(nèi)存域，讓性能曲線從Hopper延伸到了布萊克威爾；但升級(jí)到Rubin GPU 后，內(nèi)存、帶寬和算力的提升只能讓曲線向上抬升，卻無(wú)法向右延展。英偉達(dá)未來(lái)會(huì)擴(kuò)大這個(gè)內(nèi)存域，但 2026 這一代硬件不會(huì)實(shí)現(xiàn)。

下面是系統(tǒng)中加入 Groq LP30 之后的效果：LP30 主攻中高端市場(chǎng)，隨著部署數(shù)量增加，還能拓展到利潤(rùn)極高的頂級(jí)市場(chǎng)：

這條驚人的曲線說(shuō)明了什么？我用大白話給你總結(jié)一下：

如果你只做低成本推理，對(duì)響應(yīng)時(shí)間無(wú)所謂，比如人類慢悠悠地跟聊天機(jī)器人對(duì)話，或是幾個(gè)智能體輔助做一些自動(dòng)化工作，那Vera-Rubin完全夠用。而且訓(xùn)練大概率也離不開它。但在智能體 AI 時(shí)代，需要生成的 Token 數(shù)量極其龐大，Token 生成延遲必須極低，才能讓海量智能體完成任務(wù) —— 任何延遲都是真金白銀的損失，就像在數(shù)據(jù)中心地板上、或是在紐約證券交易所里直接燒錢。在這種場(chǎng)景下，沒(méi)有人，我是說(shuō)絕對(duì)沒(méi)有人，會(huì)選擇 CPU-GPU 混合系統(tǒng)來(lái)做解碼工作。

這就是英偉達(dá)花200 億美元把 Groq 精華收入囊中的原因。

我目前只能透露一句：AMD 和 Cerebras 的聯(lián)合創(chuàng)始人關(guān)系非常不一般。

Vera-Rubin架構(gòu)由 88 核 “維拉” CV100 Arm 服務(wù)器處理器（搭載定制 “奧林匹斯” 核心）搭配 “Rubin” R200 GPU 加速器組成。整套方案包含七款不同芯片，可構(gòu)成五種機(jī)架級(jí)系統(tǒng)，在Vera-Rubin AI 超算中自由組合搭配。

黃仁勛還展示了一組對(duì)比：1 吉瓦算力的 “Hopper” H100 GPU 搭配 X86 處理器，組成 HGX NVL8 系統(tǒng)（8 張 GPU 在縱向擴(kuò)展網(wǎng)絡(luò)中共享內(nèi)存，通過(guò) InfiniBand 橫向擴(kuò)展），對(duì)陣我們推測(cè)的 VR200 NVL72 機(jī)架級(jí)系統(tǒng)集群（GPU 實(shí)現(xiàn) 72 路內(nèi)存共享）。

對(duì)比結(jié)果是：GPU 數(shù)量減半，AI 處理性能提升 13.3 倍。公平地說(shuō)，H100 最低只支持到 FP8 精度，而 R200 支持 FP4 格式（和上一代布萊克威爾 GPU 一樣）。所以 13.3 倍的提升里，有 2 倍來(lái)自精度壓縮。而且 FP4 也不只是跑分噱頭 —— 模型正在被持續(xù)優(yōu)化，在把數(shù)據(jù)和運(yùn)算精度減半的同時(shí)，讓答案精度只比 FP8 低一兩個(gè)點(diǎn)。業(yè)內(nèi)已經(jīng)在實(shí)際生產(chǎn)負(fù)載中做這種取舍。

但問(wèn)題在于：即便 GPU 數(shù)量減半，可單顆價(jià)格卻是原來(lái)的三四倍。英偉達(dá)通過(guò)賣出至少兩倍數(shù)量的芯片，實(shí)現(xiàn)營(yíng)收大幅增長(zhǎng)；而你的 IT 預(yù)算并不會(huì)下降，如果 AI 負(fù)載繼續(xù)擴(kuò)張 —— 未來(lái)肯定會(huì) —— 你的 IT 預(yù)算只會(huì)上漲。其他所有部署 AI 的機(jī)構(gòu)也是如此。最終需求再次遠(yuǎn)超供應(yīng)，推動(dòng)價(jià)格進(jìn)一步上漲，讓英偉達(dá)的營(yíng)收和利潤(rùn)比在供應(yīng)不受限的環(huán)境下還要高。

當(dāng)上“推理之王” 的滋味，確實(shí)不錯(cuò)。

但這一寶座本幾乎屬于喬納森?羅斯—— 谷歌 TPU 的締造者，也是設(shè)計(jì)出 Groq 這種堪稱更優(yōu)秀架構(gòu)的人。羅斯收到了一份無(wú)法拒絕的邀約，而我認(rèn)為，Cerebras 也極有可能收到類似的邀約。英特爾錯(cuò)過(guò)了與 SambaNova Systems 合作的機(jī)會(huì)，不過(guò)或許現(xiàn)在還有時(shí)間和資金促成一筆交易。

原文：

https://www.nextplatform.com/ai/2026/03/17/nvidia-finally-admits-why-it-shelled-out-20-billion-for-groq/5209495

邀約｜AMD 技術(shù)日 ：GPU+CPU+FPGA（4.2,北京）