比GPU強(qiáng)100倍的芯片，挑戰(zhàn)AI芯片霸主

公眾號記得加星標(biāo)??，第一時間看推送不會錯過。

近日，Mythic 公司實現(xiàn)了戲劇性的轉(zhuǎn)變，在由 DCVC 領(lǐng)投的超額認(rèn)購融資輪中籌集了 1.25 億美元，旨在解決人工智能在數(shù)據(jù)中心和邊緣面臨的最大問題——其永無止境、破壞性的能源消耗。該公司的架構(gòu)比當(dāng)今頂級 GPU 和所有競爭對手的 AI ASIC 的能效高出 100 倍。

Mythic 憑借其模擬處理單元 (APU) 開啟了加速計算的新時代——這是一種與傳統(tǒng) AI 推理截然不同的方法，它將計算和內(nèi)存融合于同一平面。通過克服傳統(tǒng)數(shù)字架構(gòu)的能耗瓶頸，Mythic 在邊緣設(shè)備、自主系統(tǒng)和數(shù)據(jù)中心領(lǐng)域?qū)崿F(xiàn)了無與倫比的每瓦性能

Mythic擁有唯一一款能效接近人腦的半導(dǎo)體架構(gòu)，并且能夠服務(wù)于人工智能市場的各個領(lǐng)域。其模擬人工智能芯片支持機(jī)器人、汽車和國防行業(yè)的AI模型，以及數(shù)據(jù)中心中參數(shù)超過1T的大型語言模型（LLM）。

除了大幅節(jié)能之外，Mythic的芯片還能顯著降低成本和延遲，同時大幅提升吞吐量。Mythic擁有全球首款量產(chǎn)的模擬計算芯片，并已獲得美國國防部、主要汽車OEM廠商和主要國防合作伙伴的驗證，這使美國在全球人工智能領(lǐng)導(dǎo)地位的競爭中占據(jù)了巨大優(yōu)勢，因為最終的勝利不再取決于哪個國家能夠以災(zāi)難性的經(jīng)濟(jì)和環(huán)境代價，最快地生產(chǎn)出最多的電力。

在Mythic經(jīng)歷了一段密集的轉(zhuǎn)型期后，該公司獲得了新的融資。在新領(lǐng)導(dǎo)層的帶領(lǐng)下，Mythic徹底重建了其架構(gòu)、路線圖、軟件和戰(zhàn)略。這一進(jìn)展說服了由深度科技風(fēng)險投資公司DCVC（自2016年以來一直支持Mythic）牽頭的投資財團(tuán)，該財團(tuán)成員包括NEA、Atreides、Future Ventures、軟銀韓國（SBVA）、S3 Ventures、Linse Capital、One Madison Group、Catapult、UDC等眾多機(jī)構(gòu)。除了這些頂尖的風(fēng)險投資基金外，本田汽車和洛克希德·馬丁公司也加入了投資行列，這兩家公司分別位列各自行業(yè)（汽車和國防）的世界前十，它們的加入將助力Mythic在人工智能正在變革的兩個至關(guān)重要的萬億美元市場中迅速發(fā)展。

Mythic APU將增強(qiáng)GPU性能，解決AI能源危機(jī)

對于人工智能領(lǐng)域的GPU而言，巨大的能耗已成為一個生死攸關(guān)的問題：預(yù)計到本十年末，美國電網(wǎng)十分之一的電力將用于運行由GPU驅(qū)動的人工智能工作負(fù)載的數(shù)據(jù)中心。盡管GPU推動了生成式人工智能的興起，但它們?nèi)缃駞s面臨著“能耗墻”的困境，因為它們是1945年左右的芯片設(shè)計架構(gòu)——馮·諾依曼架構(gòu)的遺物。在馮·諾依曼架構(gòu)中，內(nèi)存和計算在物理上是分離的，從設(shè)計到構(gòu)建都彼此獨立。這種分離迫使現(xiàn)代芯片在內(nèi)存和處理器之間來回傳輸數(shù)據(jù)，消耗的能量比實際需要多出三個數(shù)量級，導(dǎo)致人工智能領(lǐng)域90%的能源都被浪費掉了。現(xiàn)有的基于GPU的人工智能加速器試圖通過高帶寬內(nèi)存（HBM）來彌補(bǔ)這一缺陷，但這種昂貴且效果甚微的改進(jìn)無法阻止當(dāng)前人工智能系統(tǒng)最終因“能耗墻”而崩潰。

Mythic 的計算機(jī)架構(gòu)不區(qū)分處理器和內(nèi)存，而是將它們視為一體，就像人腦一樣。更重要的是，Mythic 的 APU 以模擬方式執(zhí)行 AI 工作負(fù)載中最繁重的部分，即矩陣乘法——這與人腦的運作方式非常相似。其結(jié)果是 AI 領(lǐng)域前所未有的能效水平——Mythic 目前的 APU 架構(gòu)每瓦特每秒可執(zhí)行 120 萬億次運算 (TOPS)，比當(dāng)今頂級 GPU（包括內(nèi)存?zhèn)鬏敚┑男阅芨叱?100 倍，同時精度也高于運行在更高精度下的馮·諾依曼架構(gòu)。

Mythic公司基本上找到了一種能夠模擬人腦規(guī)模的方法。該公司開發(fā)的AI不僅擁有卓越的推理能力，而且能耗極低，令人印象深刻。Mythic的APU在能耗方面是硅芯片中最接近人腦的，一次乘加運算（MAC）——也就是大型矩陣乘法——僅消耗17飛焦耳的能量，而這種運算占當(dāng)今AI數(shù)學(xué)工作負(fù)載的95%。這比在現(xiàn)有GPU上執(zhí)行相同運算的能效高出1000倍。

Mythic 由前 NVIDIA 高管 Taner Ozcelik 領(lǐng)導(dǎo)，他創(chuàng)立了 NVIDIA 的汽車業(yè)務(wù)，并在十多年間持續(xù)發(fā)展壯大。Mythic 計劃進(jìn)軍四個萬億美元產(chǎn)業(yè)：數(shù)據(jù)中心、汽車、機(jī)器人和國防，其獨特的戰(zhàn)略是成為 AI 領(lǐng)域每瓦性能的絕對領(lǐng)導(dǎo)者，并實現(xiàn) 100% 的研發(fā)杠桿，就像 NVIDIA 在其 GPU 領(lǐng)域所做的那樣。

奧茲切利克博士表示：“Mythic公司將憑借這一根本洞察贏得市場：能效將決定人工智能計算的未來。正如GPU憑借其每瓦性能優(yōu)勢成為除CPU之外的首選加速計算機(jī)一樣，我們超高能效的APU也將成為除GPU之外的首選加速計算機(jī)。”

Mythic 的新一代 APU 使 AI 的擴(kuò)展性遠(yuǎn)勝于 GPU，因為相關(guān)網(wǎng)絡(luò)越復(fù)雜，APU 在能效方面的優(yōu)勢就越明顯。APU 可以輕松擴(kuò)展到 1T 參數(shù)模型，無論是 2D 還是 3D，而且無需像 GPU 那樣通過 NVLINK 建立高速 APU 間連接。內(nèi)部基準(zhǔn)測試表明，在運行 1T 參數(shù) LLM 時，Mythic APU 的每瓦每秒令牌數(shù) (Tokens/s/W) 比 NVIDIA 的高端 GPU 高出 750 倍。

NEA合伙人Aaron Jacobson表示：“NEA很高興能與Mythic富有遠(yuǎn)見的領(lǐng)導(dǎo)團(tuán)隊合作，共同致力于利用深度科技創(chuàng)新顛覆萬億美元市場。他們的APU平臺是對人工智能基礎(chǔ)設(shè)施的全新革新，突破了當(dāng)前能源和成本的限制。這筆重要的新融資將為Taner和Mythic提供充足的資金，使其能夠快速、大規(guī)模地執(zhí)行項目，并徹底淘汰過時的芯片架構(gòu)。”

此外，Mythic APU 的“神經(jīng)元”由高度成熟的硅存儲單元（迄今為止已出貨 1500 億個）構(gòu)成，這些單元采用標(biāo)準(zhǔn)半導(dǎo)體材料制造。而且，Mythic 的芯片在美國及其盟友國家生產(chǎn)。這種制造策略和布局使 Mythic 相對于使用 GPU 的現(xiàn)有競爭對手以及新興的模擬計算競爭對手而言，都擁有巨大的優(yōu)勢。下一代 Mythic APU 展現(xiàn)出巨大的成本優(yōu)勢，內(nèi)部基準(zhǔn)測試表明，與最新的 GPU 相比，其每百萬代幣成本最多可降低 80 倍，在 1000 億 LLM 模型中每百萬代幣的成本低至 0.5 美分，在 1T 參數(shù)模型中每百萬代幣的成本低至 4 美分。

Future Ventures創(chuàng)始人兼董事總經(jīng)理Steve Jurvetson是Mythic的首批投資人之一，最近重新加入董事會。他表示：“Mythic采用了一種全新的方法來構(gòu)建低功耗、低成本的神經(jīng)網(wǎng)絡(luò)，這可以使任何產(chǎn)品更加智能。Mythic可以在單個晶體管中完成8位乘法和加法運算（人工智能計算的核心要素）！沒有任何數(shù)字設(shè)計能夠達(dá)到如此高的效率。計算和存儲在這里合二為一，就像大腦一樣。我們很高興看到Mythic在每美元計算量和每瓦計算量方面繼續(xù)超越所有數(shù)字芯片。”

邊緣感知和卓越的軟件開發(fā)工具包

Mythic憑借其突破性的節(jié)能架構(gòu)，發(fā)明了一種名為Starlight的新型傳感設(shè)備。該設(shè)備功耗低于1瓦，并集成了Mythic APU，通過模擬AI從噪聲中提取信號，將圖像傳感器的性能提升了50倍。這帶來了顯著的性能提升，尤其是在對任務(wù)關(guān)鍵型應(yīng)用至關(guān)重要的領(lǐng)域，例如弱光性能，其效果與頂級圖像傳感器相比可謂“天壤之別”。這項技術(shù)的應(yīng)用前景無限廣闊，涵蓋國防、機(jī)器人、汽車等眾多領(lǐng)域。Mythic是唯一一家能夠?qū)?qiáng)大而超低功耗的AI引擎集成到傳感器中的公司，這項創(chuàng)新堪稱一項意義重大的救命技術(shù)。

自去年加入Mythic以來，Ozcelik博士更加專注于軟件開發(fā)和SDK成熟度，以有效對抗NVIDIA根深蒂固的CUDA平臺。Mythic的CAMP（內(nèi)存模擬計算處理）SDK目前已支持在其第一代APU上流暢運行深度神經(jīng)網(wǎng)絡(luò)（DNN）應(yīng)用程序，并原生支持ONNX、PyTorch和TensorFlow，同時還可通過NVIDIA的TensorRT在包括NVIDIA Jetson在內(nèi)的多個CPU平臺上運行。最近，一項德國研究報告顯示，CAMP在同類內(nèi)存計算處理器中成熟度最高。

憑借此輪新融資，Mythic 有望在所有關(guān)鍵任務(wù)型人工智能推理市場帶來巨大變革，為數(shù)據(jù)中心、機(jī)器人、汽車和國防領(lǐng)域的邏輯層模型 (LLM) 和深度神經(jīng)網(wǎng)絡(luò) (DNN) 帶來顯著的能效和成本優(yōu)勢。該公司已做好充分準(zhǔn)備，引領(lǐng)人工智能領(lǐng)域兩大重要浪潮：推理時間擴(kuò)展和物理人工智能。Mythic 的技術(shù)路線圖實力雄厚，其下一代技術(shù)有望使用戶無需網(wǎng)絡(luò)連接即可在口袋里使用 ChatGPT3+ 級別的邏輯層模型，而成本僅為現(xiàn)有解決方案的百分之一左右。

DCVC聯(lián)合創(chuàng)始人兼管理合伙人馬特·奧科表示：“Mythic現(xiàn)在完全有能力擴(kuò)展全球下一代偉大的計算架構(gòu)。該公司來之不易的突破將確保人工智能不會剝奪世界各地人們賴以生存的能源，并將賦予美國維護(hù)自由世界安全所需的人工智能優(yōu)勢。塔納和他的團(tuán)隊取得了一項文明的進(jìn)步。”

（來源：半導(dǎo)體行業(yè)觀察綜合）

*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個人觀點，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點，不代表半導(dǎo)體行業(yè)觀察對該觀點贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4260期內(nèi)容，歡迎關(guān)注。

加星標(biāo)??第一時間看推送，小號防走丟

求推薦