谷歌聯(lián)手Marvel研發(fā)下一代TPU，專為AI推理打造

智東西
編譯 劉煜
編輯 陳駿達

智東西4月20日消息，昨天，據(jù)The Information報道，兩名直接知情人士透露，谷歌正與無晶圓廠半導體公司Marvell商談合作，計劃開發(fā)兩款全新芯片，包括專為運行AI模型打造的全新TPU，以及設計用于與谷歌TPU協(xié)同工作的內存處理單元。但值得一提的是，長期以來，博通一直是谷歌TPU的獨家設計合作伙伴。

本次谷歌與Marvell的合作計劃最快于明年完成對內存處理單元的設計，并生產(chǎn)近200萬顆該單元。該合作尚未披露具體金額。消息人士補充稱，由于談判仍處于早期階段，200萬這一數(shù)字仍有可能調整。

一名谷歌員工透露，對于新推理芯片的研發(fā)，谷歌早已開始布局規(guī)劃。今年3月，英偉達于GTC大會上發(fā)布了旨在提升推理任務效率的LPU芯片。谷歌在其發(fā)布LPU之后，進一步加快了對新一代推理芯片的相關研發(fā)速度。

值得一提的是，LPU是英偉達以200億美元從Groq獲得技術授權后研發(fā)打造的。而谷歌此次的合作對象Marvell，曾作為Groq第一代LPU的芯片設計合作伙伴，在推理芯片設計領域積累了相應的技術與項目經(jīng)驗。

在合作研發(fā)層面，谷歌在芯片設計領域對博通存在單一依賴。但由于博通收費模式成本高昂，該公司按每顆量產(chǎn)TPU收取費用，隨著TPU需求激增，谷歌的相關支出也大幅攀升。因此谷歌正尋求降低對博通依賴的途徑。

不過，據(jù)The Information2023年報道，谷歌早在當時就有擺脫對博通單一依賴的意圖了。那時谷歌曾考慮讓Marvell取代博通，成為其數(shù)據(jù)中心內用于連接服務器與以太網(wǎng)交換機的網(wǎng)絡接口芯片供應商。

去年，谷歌為了降低對博通的單一依賴，引入了中國臺灣廠商聯(lián)發(fā)科參與TPU芯片的設計與生產(chǎn)。

但在本月早些時候，博通與谷歌簽署新協(xié)議，將為谷歌下一代AI數(shù)據(jù)中心開發(fā)并供應定制化TPU及網(wǎng)絡組件，合作期限延長至2031年。這意味著博通在谷歌的芯片體系中仍占據(jù)著核心地位。

需要補充的是，摩根士丹利曾預計，谷歌2027年TPU產(chǎn)量約為600萬顆。不過，本次雙方合作中全新TPU的設計完成時間及谷歌規(guī)劃的量產(chǎn)規(guī)模，目前仍未明確。

此外，谷歌當前的芯片均由臺積電代工生產(chǎn)，新款芯片最終由臺積電還是其他廠商制造，目前也未確定。

在谷歌與Marvell協(xié)商此次合作前，谷歌也曾向Marvell采購過CXL控制器芯片。據(jù)兩名谷歌員工介紹，這類芯片用于管理數(shù)據(jù)中心內服務器之間的內存共享。不過采購的均為現(xiàn)貨標準產(chǎn)品，并未涉及定制化合作。

多年來，谷歌僅在自有數(shù)據(jù)中心內部署TPU，用于支撐搜索、YouTube及Gemini大模型等業(yè)務，且僅對谷歌云客戶開放。據(jù)The Information報道，這一局面在去年出現(xiàn)轉變：谷歌開始向客戶提供TPU算力租賃服務，支持客戶將其部署于非谷歌數(shù)據(jù)中心，直接挑戰(zhàn)英偉達在AI芯片領域的主導地位。

截至目前，谷歌TPU已被包括Anthropic、Meta以及蘋果在內的客戶采用。

而Marvell主營數(shù)據(jù)中心通用網(wǎng)絡、存儲及光互聯(lián)芯片設計，同時為客戶提供定制化芯片設計服務，該業(yè)務已成為其增長最快的板塊。

結語：AI Agent推高算力需求，專用推理芯片研發(fā)趨勢持續(xù)升溫

谷歌與Marvell的此次合作，不止為降低谷歌對博通的單一依賴。

由于AI推理環(huán)節(jié)正走向精細化分工，推理任務并非通用處理器就能一概勝任，該任務部分環(huán)節(jié)依賴峰值算力，另一部分則受限于內存讀寫與數(shù)據(jù)調度效率。而谷歌與Marvell此次合作研發(fā)可與TPU協(xié)同工作的內存處理單元，正是這一行業(yè)趨勢下的產(chǎn)物。

此外，當前AI Agent對算力的消耗遠高于聊天機器人等傳統(tǒng)AI應用，隨著各類AI企業(yè)持續(xù)推出更復雜的智能體產(chǎn)品，專用推理芯片市場也進入快速發(fā)展階段。

除谷歌外，OpenAI已于4月中旬與AI芯片公司Cerebras達成協(xié)議，計劃斥資超200億美元采購其推理芯片，同時該公司也在與博通合作研發(fā)自研推理芯片。

綜合來說，為不同任務搭配專用推理芯片，而非依靠單一處理器包攬全部工作，也在逐漸成為頭部廠商提升效率、控制成本的選擇趨勢。在此趨勢下，AI芯片有望加速從通用化路線，向更貼合場景、更聚焦專業(yè)功能的方向分化發(fā)展。