GPU獨霸的時代，必將結(jié)束

公眾號記得加星標??，第一時間看推送不會錯過。

人工智能加速硬件的成本日益高昂，下一代芯片需要更高的功耗和大量的基礎(chǔ)設(shè)施投資。對于許多初創(chuàng)公司和小型企業(yè)而言，大規(guī)模部署人工智能的成本和復(fù)雜性在軟件開發(fā)開始之前就已構(gòu)成障礙。

像 FuriosaAI 這樣的新興硅芯片廠商正試圖重新思考這一格局，專注于效率、性能以及替代 GPU 主導(dǎo)市場的方案。

FuriosaAI 是一家總部位于韓國的公司，致力于開發(fā)高性能人工智能推理芯片，旨在降低功耗和數(shù)據(jù)中心壓力。其最新處理器 RNGD 基于公司自主研發(fā)的張量收縮處理器架構(gòu)，旨在無需依賴傳統(tǒng) GPU 框架即可運行高要求的人工智能模型。

FuriosaAI 的首席執(zhí)行官兼聯(lián)合創(chuàng)始人 June Paik 在 2017 年創(chuàng)立該公司之前，曾在AMD和三星擔任硬件和軟件工程師。我們與他探討了人工智能芯片初創(chuàng)公司面臨的挑戰(zhàn)、數(shù)據(jù)中心的未來，以及 FuriosaAI 計劃如何在受能源限制、基礎(chǔ)設(shè)施成本和英偉達長期主導(dǎo)地位影響的行業(yè)中競爭。

問：從歷史上看，日本和歐洲涌現(xiàn)出了一些偉大的公司（ST Electronics、NEC 等），為什么中國和美國以外的 AI 芯片廠商如此之少？

答：首先，我想對你的前提提出一些質(zhì)疑：在人工智能領(lǐng)域，幾乎沒有哪家硬件初創(chuàng)公司能夠撼動英偉達的統(tǒng)治地位。即使在 AlexNet 問世十五年后，我們?nèi)匀惶幱谶@個行業(yè)的早期階段。而且，一些人工智能硬件創(chuàng)新者，例如 Hailo 和 Axelera，實際上并非來自美國或中國。

但由于結(jié)構(gòu)性原因，這份名單很短。

與加密貨幣挖礦（算法固定，簡單的ASIC礦機就能很好地工作）不同，人工智能正在快速發(fā)展和演變。

為不斷變化的市場需求打造芯片需要硬件和編譯器方面的專業(yè)知識，而這些知識往往集中在半導(dǎo)體產(chǎn)業(yè)底蘊深厚的地區(qū)。此外，世界上只有少數(shù)幾個地方與晶圓廠和芯片制造合作伙伴建立了深厚的合作關(guān)系。

這就是為什么總部設(shè)在韓國實際上對Furiosa來說是一個競爭優(yōu)勢。

我們能夠接觸到韓國大學世界一流工程項目和韓國科技巨頭的優(yōu)秀人才。我們還與韓國（例如，SK海力士為我們的第二代芯片推理芯片RNGD提供HBM3）以及亞洲其他地區(qū)（例如，我們的代工廠合作伙伴臺積電）的領(lǐng)先企業(yè)建立了合作關(guān)系。

與硅谷的距離也迫使我們采取非常自律的方式。Furiosa 最初僅靠 100 萬美元的種子輪融資起步，我們在芯片交付之前花了數(shù)年時間完善我們的理念。

我們完全致力于基于張量收縮的方法，并且能夠忽略硅谷的傳統(tǒng)觀念和炒作。

但硬件必須在全球市場競爭；我們不能僅僅成為區(qū)域供應(yīng)商。現(xiàn)在，隨著RNGD產(chǎn)品批量出貨，我們正在與世界各地的企業(yè)客戶合作。

問：硬件只是成功的一部分，英偉達花了數(shù)年時間才打造出如今聲名遠揚的軟件護城河（CUDA）。Furiosa 正在采取哪些措施來對抗其強大的對手？

答：試圖復(fù)制英偉達龐大的 CUDA 庫是一個戰(zhàn)略死胡同。

我們采取了更大膽的做法，從第一性原理出發(fā)，專門為人工智能共同設(shè)計硬件和軟件，這樣我們就無需重新創(chuàng)建 CUDA。

我們的芯片采用 Furiosa 專有的張量收縮處理器 (TCP) 架構(gòu)，該架構(gòu)能夠原生執(zhí)行深度學習的多維數(shù)學運算，而不是將其強行放入 GPU 使用的傳統(tǒng)結(jié)構(gòu)中。

這使得我們的編譯器能夠在無需數(shù)千個手工調(diào)優(yōu)內(nèi)核的情況下優(yōu)化模型。

RNGD目前已投入量產(chǎn)，充分展現(xiàn)了我們方法的優(yōu)勢。它能為世界上最苛刻的模型提供高性能推理，而功耗僅為180瓦（相比之下，GPU需要600瓦甚至更高）。

LG AI Research等全球合作伙伴已在生產(chǎn)中驗證了這一突破性的效率。

我們還打破了 CUDA 的鎖定，構(gòu)建了能夠與 PyTorch 和 vLLM 等標準工具無縫集成的軟件棧，以便開發(fā)人員無需改變工作流程即可獲得這種性能。

問：大型超大規(guī)模數(shù)據(jù)中心運營商（如谷歌、微軟和亞馬遜）正逐步構(gòu)建自己的AI芯片解決方案，以減少對第三方供應(yīng)商的依賴。那么，F(xiàn)uriosa（以及其他類似公司）在這一趨勢中扮演著怎樣的角色呢？

答：當前的GPU架構(gòu)給整個行業(yè)（包括超大規(guī)模數(shù)據(jù)中心）帶來了嚴峻的能源挑戰(zhàn)和基礎(chǔ)設(shè)施瓶頸。我們展望未來，異構(gòu)計算將成為主流，不同的架構(gòu)可以協(xié)同工作，以最高效的方式滿足不同的需求（例如訓(xùn)練與推理）。

因為我們優(yōu)先考慮總擁有成本、能源效率和靈活性，所以我們的技術(shù)將在解決所有人面臨的這個問題上發(fā)揮核心作用。

我們目前重點關(guān)注四個特定領(lǐng)域，這些領(lǐng)域正最強烈地感受到電力和基礎(chǔ)設(shè)施方面的難題：

• 各國和受監(jiān)管行業(yè)需要在本地而非公共云上處理敏感數(shù)據(jù)。RNGD 使他們能夠在現(xiàn)有電力資源范圍內(nèi)部署高性能推理，從而確保數(shù)據(jù)主權(quán)，而無需大規(guī)模的新基礎(chǔ)設(shè)施項目。

• 對于企業(yè)客戶而言，總體擁有成本 (TCO) 和靈活性至關(guān)重要。RNGD 可安裝在標準的 15kW 風冷機架中，避免了傳統(tǒng) GPU 所需的高昂液冷改造費用，使其成為擴展速度最快、成本效益最高的方式。

• 區(qū)域性和專業(yè)性云服務(wù)商需要在利潤率方面與三大巨頭競爭。RNGD 的高計算密度使云服務(wù)提供商 (CSP) 能夠在保持低運營成本 (OpEx) 的同時，最大限度地提高每個機架的收入。

• 其他行業(yè)，例如電信運營商，也在網(wǎng)絡(luò)邊緣的電力受限數(shù)據(jù)中心環(huán)境中工作。RNGD 的節(jié)能特性也能滿足他們的需求。

我們正在開發(fā)的下一代芯片將直接面向超大規(guī)模數(shù)據(jù)中心以及這些關(guān)鍵行業(yè)。

問：您認為數(shù)據(jù)中心的未來發(fā)展趨勢是什么？（假設(shè)您在 2036 年參觀一個數(shù)據(jù)中心，您會看到什么？）

答：10 年后，“數(shù)據(jù)中心”的含義將發(fā)生很多變化，就像“計算機”一詞現(xiàn)在已經(jīng)可以指代從智能手表到高性能服務(wù)器的一切事物一樣。

有些數(shù)據(jù)中心會像你想象的那樣，是那種充滿未來感的設(shè)施：規(guī)模龐大，而且（很可能）采用聚變能源或繞地球運行。但另一些數(shù)據(jù)中心則會很小巧，但效率極高。

例如，您當?shù)氐尼t(yī)院將擁有一個本地人工智能數(shù)據(jù)中心，用于運行醫(yī)生和護士的智能助手，從而保持低延遲，并確保數(shù)據(jù)本地化和安全。

電信運營商將擁有許多高性能的“邊緣”人工智能數(shù)據(jù)中心，這些數(shù)據(jù)中心針對極低延遲進行了優(yōu)化。

我確信的一點是，2036年的人工智能數(shù)據(jù)中心不會再充斥著GPU，而是會配備各種滿足不同需求的專用人工智能芯片。

部分原因是GPU的能效較低。但從根本上講，人們普遍認為GPU架構(gòu)并不適合人工智能。

GPU 制造商一直致力于通過創(chuàng)新來彌合這一差距，例如在芯片中添加張量核心，但最終從 GPU 轉(zhuǎn)向 AI 優(yōu)先架構(gòu)的好處將太大，不容忽視。

問：在不透露太多產(chǎn)品路線圖細節(jié)的情況下，F(xiàn)uriosa 的芯片是否會遵循人工智能產(chǎn)品的傳統(tǒng)發(fā)展路徑？

答：我們現(xiàn)在以及未來的產(chǎn)品都專注于提供企業(yè)客戶最需要的產(chǎn)品：高性能數(shù)據(jù)中心推理，同時還要節(jié)能、經(jīng)濟高效，并且易于部署，無需進行大規(guī)模的基礎(chǔ)設(shè)施升級。

這意味著要優(yōu)先考慮每瓦token數(shù)和每機架token數(shù)等指標，以提高計算密度。

我們還將積極利用行業(yè)新進展，例如更小的制程節(jié)點和新的內(nèi)存技術(shù)。

我們的第一代芯片采用14納米制程。我們的RNGD芯片采用HBM3顯存和5納米制程，我們將繼續(xù)推進技術(shù)進步。但正是我們的架構(gòu)創(chuàng)新，使我們能夠?qū)崿F(xiàn)比采用相同制程的GPU更優(yōu)異、更節(jié)能的性能。

關(guān)于我們的產(chǎn)品路線圖，還有一點需要說明，那就是軟件和硬件同等重要。Furiosa 的軟件工程師數(shù)量多于硬件工程師，因為我們必須持續(xù)快速有效地支持新的模型和部署工具。

我們在 2025 年發(fā)布了三個主要的 SDK 更新，并將在 2026 年及以后保持這一速度。

https://www.techradar.com/pro/the-ai-data-centers-of-2036-wont-be-filled-with-gpus-furiosaais-ceo-on-the-future-of-silicon

（來源：編譯自techradar）

*免責聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個人觀點，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達一種不同的觀點，不代表半導(dǎo)體行業(yè)觀察對該觀點贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4326期內(nèi)容，歡迎關(guān)注。

加星標??第一時間看推送

求推薦