專利視角看華為NPU和谷歌TPU芯片的創(chuàng)新之路

隨著深度學(xué)習(xí)、大模型、生成式人工智能等算法技術(shù)的迅猛發(fā)展，人工智能的發(fā)展對于芯片的算力提出了更高的需求，適應(yīng)更高算力要求的人工智能專用芯片應(yīng)運(yùn)而生。

2025年2月，華為公司推出了一款名為“昇騰DeepSeek大模型一體機(jī)”的王炸產(chǎn)品，將昇騰高性能算力底座和DeepSeek全系列模型深度融合，可滿足語言理解、圖像分析等多場景需求，為企業(yè)提供一站式AI解決方案，這款新產(chǎn)品引發(fā)了業(yè)界對國產(chǎn)芯片的廣泛關(guān)注。隨著大模型、生成式人工智能等算法技術(shù)的迅猛發(fā)展，算力需求也在急速增加，傳統(tǒng)的中央處理器（CPU）已經(jīng)無法滿足計算需求，這推動了人工智能芯片（AI芯片）快速發(fā)展。

在人工智能領(lǐng)域，芯片的重要性不言而喻，它就像AI運(yùn)算的底座，為各種智能應(yīng)用提供強(qiáng)大的算力支持。長期以來，英偉達(dá)的GPU（圖形處理器）憑借出色的并行計算能力和成熟的CUDA開發(fā)平臺，在AI芯片市場占據(jù)主導(dǎo)地位，幾乎成為AI計算的代名詞。然而，隨著技術(shù)的發(fā)展和市場競爭的加劇，華為的NPU（神經(jīng)網(wǎng)絡(luò)處理器）和谷歌的TPU（張量處理器）等專用芯片開始嶄露頭角，試圖打破英偉GPU的壟斷局面。今天，就讓我們從專利和技術(shù)的角度，聊聊這三位“選手”的故事。

英偉達(dá)GPU：

AI芯片市場的“老大哥”

英偉達(dá)的GPU最初是為圖形渲染設(shè)計的，但隨著深度學(xué)習(xí)的興起，人們發(fā)現(xiàn)GPU的并行計算架構(gòu)也適用于大量的矩陣運(yùn)算。于是，英偉達(dá)抓住了這個機(jī)遇，不斷優(yōu)化其GPU架構(gòu)，推出了針對AI計算的專用GPU系列，如Tesla和A100等。這些GPU不僅計算能力強(qiáng)，而且通過CUDA平臺提供了豐富的開發(fā)工具和庫，使得開發(fā)者能夠輕松地在GPU上實現(xiàn)各種復(fù)雜的AI模型。憑借這些優(yōu)勢，英偉達(dá)在AI芯片市場占據(jù)了超過80%的份額，成為名副其實的“老大哥”。

英偉達(dá)Project Digits產(chǎn)品 圖/英偉達(dá)官網(wǎng)

由于在GPU領(lǐng)域上一枝獨(dú)秀，英偉達(dá)致力于在GPU芯片這一傳統(tǒng)領(lǐng)域深耕，對于AI專用芯片領(lǐng)域涉及較少。基于AI專用芯片的關(guān)鍵核心技術(shù)，提取主要關(guān)鍵詞和分類號，在Incopat專利數(shù)據(jù)庫構(gòu)建檢索式進(jìn)行專利數(shù)據(jù)檢索，可以看到英偉達(dá)的相關(guān)專利申請量在全球位列第八位，遠(yuǎn)低于華為公司，和其他大部分IT公司的申請量持平，可見AI專用芯片并不是英偉達(dá)公司發(fā)力的重點。

從其產(chǎn)品線上，在最新的國際消費(fèi)類電子產(chǎn)品展覽會（CES2025）上，英偉達(dá)公司發(fā)布了全新的GB10 Grace Blackwell芯片和搭載了GB10超級芯片的Project Digits，主要以強(qiáng)大算力支持?jǐn)?shù)據(jù)中心的AI訓(xùn)練和推理任務(wù)，支持大規(guī)模的深度學(xué)習(xí)，如生成式AI和大語言模型等。英偉達(dá)公司依然以傳統(tǒng)的方式不斷更迭自身產(chǎn)品，向著AI技術(shù)新發(fā)展方向靠攏。

AI專用芯片市場的新機(jī)遇

受制于英偉達(dá)公司在GPU市場上的高占有率，一些大型科技公司開始自研AI專用芯片，以減少對單一供應(yīng)商的技術(shù)依賴。AI芯片從技術(shù)上可以劃分為兩大類：通用芯片和專用芯片。通用芯片就像“全能選手”，適用于大算力場景，比如常見的GPU，但是在處理深度學(xué)習(xí)這類復(fù)雜任務(wù)時存在效率較低、功耗較高的情況，而專用芯片如同“特種兵”，專門為深度學(xué)習(xí)任務(wù)設(shè)計，常見的專用芯片包括視頻處理器（VPU）、張量處理器（TPU）、深度學(xué)習(xí)處理器（DPU）、神經(jīng)網(wǎng)絡(luò)處理器（NPU）。隨著AI技術(shù)的快速發(fā)展，專用芯片正成為推動行業(yè)進(jìn)步的重要力量。

谷歌TPU：

為深度學(xué)習(xí)而生的定制芯片

TPU芯片是谷歌推出的一種專門用于加速張量計算的處理單元，與GPU不同，TPU從一開始就是為機(jī)器學(xué)習(xí)任務(wù)量身定做的，它的架構(gòu)和整體設(shè)計都圍繞著如何高效地執(zhí)行矩陣乘法等深度運(yùn)算展開。

關(guān)于TPU和GPU的使用場景的區(qū)別有一個很形象的比喻：如果外面下雨了，你其實并不需要知道每秒到底有多少滴雨，而只要知道雨是大還是小。與此類似，神經(jīng)網(wǎng)絡(luò)通常不需要16/32bit浮點數(shù)做精確計算，可能8bit整型預(yù)測的精度就足以滿足需求了。面對已經(jīng)很成熟的GPU市場，谷歌公司想出了破局的新思路，在神經(jīng)網(wǎng)絡(luò)進(jìn)行推理時，適當(dāng)降低計算精度并不會影響深度學(xué)習(xí)的效果，而通過模型的壓縮可以大幅提高推理速度和降低資源能耗以滿足多樣化的AI模型訓(xùn)練需求。TPU中的關(guān)鍵元素是矩陣乘法單元，通過脈動陣列的形式工作，用于實現(xiàn)指令運(yùn)算，被稱為“TPU”的心臟。

縱觀谷歌公司的產(chǎn)品線，TPU芯片經(jīng)過了6次更新迭代。早在2015年谷歌推出了TPUv1，重點在于提出了脈動陣列架構(gòu)，谷歌自2016年首次公開了TPU概念圖，2017年在國際頂級會議論文上首次詳細(xì)介紹了TPU芯片的結(jié)構(gòu)。2015年，谷歌申請了第一個關(guān)于脈沖陣列的核心專利，該專利揭示了TPU的重要架構(gòu)和核心功能模塊，公開了如何并行地執(zhí)行多個矩陣運(yùn)算，使神經(jīng)網(wǎng)絡(luò)中的脈沖陣列被充分利用，并給出了和現(xiàn)有TPU芯片基本框架相同的附圖，其同族被引用次數(shù)高達(dá)166次，可見其重要性。

谷歌早期將TPU芯片相關(guān)技術(shù)更多作為技術(shù)秘密進(jìn)行保留，只針對核心技術(shù)進(jìn)行了全球?qū)＠季郑谠缙诘膽?yīng)用場景中主要將TPU芯片應(yīng)用于AlphaGo機(jī)器人等內(nèi)部研發(fā)產(chǎn)品。后期通過將TPU部署在谷歌云平臺上，谷歌不僅能夠滿足自身龐大的AI計算需求，還能夠為云客戶提供強(qiáng)大的 AI算力支持，因此谷歌公司在TPU芯片的早期主要是為了滿足內(nèi)部需求如云服務(wù)、搜索引擎等，以減少對英偉達(dá)等硬件供應(yīng)商的依賴，實現(xiàn)技術(shù)上的自主可控。此后谷歌對TPU芯片在能效和性能方面做了多次迭代升級，以滿足更大運(yùn)算量的計算需求，支持更復(fù)雜的AI任務(wù)。在專利技術(shù)上，谷歌在TPU技術(shù)上也擁有眾多專利，值得注意的是這些專利的同族數(shù)量均較高，實現(xiàn)了核心技術(shù)的全球布局，這些專利涵蓋了芯片設(shè)計、算法優(yōu)化、系統(tǒng)架構(gòu)等多個方面，致力于提高指令的運(yùn)算效率和降低能耗。為了滿足大模型等新興計算模型的需求，谷歌近期在數(shù)據(jù)壓縮陣列和加速處理器性能優(yōu)化方面進(jìn)行了多項專利部署。但若論及谷歌最引人注目的創(chuàng)新成果，像Gemini這樣的人工智能應(yīng)用顯然更受大眾關(guān)注。Gemini模型的卓越表現(xiàn)離不開TPU第四代和第五代技術(shù)上的助力。

谷歌于2024年5月發(fā)布了第六代TPU芯片Trillium，這款芯片相比前代TPU v5e實現(xiàn)了顯著突破——峰值運(yùn)算能力提升超過4.7倍，能源效率提高67%以上。谷歌選擇通過云服務(wù)平臺向客戶提供Trillium TPU的計算能力，值得注意的是谷歌并沒有直接銷售TPU芯片。從其策略上看，谷歌公司重點在于構(gòu)建強(qiáng)大的AI生態(tài)系統(tǒng)。分析人士指出如果在大模型領(lǐng)域與OpenAI等生成式AI企業(yè)角力，又要在硬件上同時與英偉達(dá)公司正面交鋒，容易面臨“腹背受敵”的兩難局面，直接和英偉達(dá)公司“硬碰硬”，可能不是谷歌公司在當(dāng)下最好的選擇。不過TPU芯片憑借出色的性價比優(yōu)勢吸引了包括蘋果在內(nèi)的多家科技公司和不少初創(chuàng)企業(yè)，采用該平臺部署自己的AI應(yīng)用模型。谷歌憑借TPU芯片，不僅實現(xiàn)了技術(shù)的自主可控，還悄然蠶食了英偉達(dá)的市場份額。此外，谷歌精心構(gòu)建的專利網(wǎng)絡(luò)形成了嚴(yán)密的技術(shù)保護(hù)壁壘，為AI專用芯片領(lǐng)域的競爭提供了有力的技術(shù)支撐。

華為NPU：

達(dá)芬奇架構(gòu)的創(chuàng)新之旅

華為公司的NPU（神經(jīng)網(wǎng)絡(luò)處理器）憑借其獨(dú)特的達(dá)芬奇架構(gòu)脫穎而出，這種架構(gòu)專為AI計算量身定制，內(nèi)置的3D Cube計算引擎堪稱“超級計算引擎”，通過創(chuàng)新的矩陣運(yùn)算方式，大幅提高了芯片在處理深度學(xué)習(xí)任務(wù)時的效率，與傳統(tǒng)的CPU和GPU相比，同樣的芯片面積下性能跨域式提升，同時顯著降低了能耗。

華為的NPU芯片的發(fā)展之路堪稱“逆境中的逆襲”。與英偉達(dá)和谷歌不同，華為在面臨美國《芯片與科學(xué)法案》的外部技術(shù)封鎖時，走出了一條自主創(chuàng)新的突圍之路，沒有先進(jìn)制程？沒有現(xiàn)成 IP核？那就自己造！這種“被迫”自主研發(fā)的處境，反而成就了國產(chǎn)AI芯片的突圍傳奇，探索出一條自主可控的AI加速器發(fā)展路線。

從專利角度來看，華為的創(chuàng)新實力令人矚目。自2017年起，隨著全球人工智能技術(shù)的飛速發(fā)展，算法的革新顯著推動了芯片行業(yè)的進(jìn)步，華為公司敏銳地抓住這一“風(fēng)口”，迅速布局AI專用芯片相關(guān)專利，申請量增長速率明顯。到2021年，相關(guān)專利申請量達(dá)到峰值，這就好比在人工智能的賽道上，華為采取了搶跑策略，成功占據(jù)了有利位置。

對標(biāo)其產(chǎn)品線，在2018年底華為公司首次發(fā)表了昇騰910和昇騰310兩款A(yù)I芯片，這標(biāo)志著華為AI專用芯片正式落地。與此同時，華為進(jìn)行了縝密的專利布局，體現(xiàn)出強(qiáng)大的專利保護(hù)意識，將專利申請和產(chǎn)品研發(fā)緊密結(jié)合。這種“專利與產(chǎn)品并駕齊驅(qū)”的策略，不僅提高了專利的轉(zhuǎn)化利用價值，也為華為在AI專用芯片領(lǐng)域的競爭提供了嚴(yán)密的專利保護(hù)網(wǎng)，完全詮釋了“科技以專利為先”的理念。

由于矩陣運(yùn)算是算力的“頂梁柱”，華為公司花了大量心思提高其效率。早在2017年，華為就申請了一個關(guān)于矩陣乘法器的專利，該專利同族被引證次數(shù)達(dá)62次，覆蓋了美、韓、日、意、歐等國家和地區(qū)，是華為公司布局的重點專利，為后續(xù)的專利申請奠定了堅定的基礎(chǔ)，也展示了華為從最開始就瞄準(zhǔn)了全球市場進(jìn)行專利布局的決心。在此基礎(chǔ)上，華為持續(xù)深耕矩陣和張量運(yùn)算優(yōu)化領(lǐng)域，可以說，華為在此領(lǐng)域的技術(shù)布局是越來越精細(xì)了。最近兩三年，華為在AI芯片領(lǐng)域又有了不少新動作，針對大模型等產(chǎn)品需求，圍繞著壓縮格式的向量運(yùn)算、提高算子計算效率做了一系列部署。特別是在底層的指令優(yōu)化方面，華為進(jìn)行了縝密的專利布局，形成一張嚴(yán)密的專利保護(hù)網(wǎng)，確保了產(chǎn)品的穩(wěn)定性。

對于AI芯片和AI平臺的整體布局，華為也是步步為營。早期申請了運(yùn)算加速器、芯片、終端相關(guān)專利以保護(hù)整體架構(gòu)和基于AI芯片的終端產(chǎn)品，中期華為在產(chǎn)品線上打造了面向“端、邊、云”的全場景AI基礎(chǔ)設(shè)施方案，相應(yīng)的圍繞構(gòu)建網(wǎng)絡(luò)結(jié)構(gòu)、神經(jīng)網(wǎng)絡(luò)加速器等關(guān)鍵技術(shù)做了一系列專利布局。近期華為聚焦AI加速器的性能優(yōu)化，在實現(xiàn)訪存均衡、多算子協(xié)同等方面取得技術(shù)突破，可以說華為在AI專用芯片領(lǐng)域的技術(shù)演進(jìn)路線呈現(xiàn)出明顯的遞進(jìn)特征，已經(jīng)從最初的“打基礎(chǔ)”逐步邁向了“精細(xì)化打磨”的階段。從矩陣運(yùn)算，到全場景AI基礎(chǔ)設(shè)施的生態(tài)系統(tǒng)，再到對AI平臺性能的“精細(xì)調(diào)控”，華為的每一步都走得既扎實又富有前瞻性。在外部技術(shù)封鎖的壓力下，華為沒有退縮，反而通過一系列的創(chuàng)新和專利布局，成功走出了一條自主可控的AI專用芯片發(fā)展之路。這不僅為華為自身的發(fā)展奠定了較好的基礎(chǔ)，也為國內(nèi)AI芯片產(chǎn)業(yè)的發(fā)展提供了寶貴的經(jīng)驗。

在產(chǎn)品線上華為的達(dá)芬奇架構(gòu)可以覆蓋多種應(yīng)用場景。第一條路徑是作為手機(jī)終端的協(xié)處理，以提高手機(jī)運(yùn)算性能。在這條路徑上，華為將 NPU芯片集成在麒麟手機(jī)芯片內(nèi)部，和CPU、GPU協(xié)同工作。2017年，華為推出了第一款手機(jī)內(nèi)置AI處理器Mate10系列手機(jī)，后續(xù)不斷迭代推出了Mate30和Mate40，此后面臨著芯片技術(shù)遭遇“卡脖子”情況。華為在2023年浴火重生推出了Mate60，采用自研麒麟處理器結(jié)合NPU芯片。第二條路徑是采用NPU芯片作為推理訓(xùn)練芯片，典型的產(chǎn)品正是昇騰系列，如昇騰310（用于推理）、昇騰910（用于訓(xùn)練），以及基于昇騰310和910打造的系列AI硬件產(chǎn)品Atlas系列服務(wù)器。華為通過自己的AI計算框架構(gòu)建國產(chǎn)算力生態(tài)系統(tǒng)，在國內(nèi)贏得了一定的市場份額，但是與英偉達(dá)的生態(tài)系統(tǒng)在成熟度和接受度方面仍有差距。總體來說，華為的達(dá)芬奇架構(gòu)和昇騰系列算力卡為國產(chǎn)算力技術(shù)的發(fā)展樹立了標(biāo)桿，縱觀華為的相關(guān)專利，主要采用了“問題導(dǎo)向”的創(chuàng)新路徑。面對美國制裁導(dǎo)致的先進(jìn)制程獲取困難，華為圍繞著如何在次優(yōu)工藝下實現(xiàn)競爭力，對于底層指令運(yùn)算的各種優(yōu)化改進(jìn)形成了豐富的專利池，為國內(nèi)企業(yè)在該領(lǐng)域的發(fā)展提供了破局的思路。

市場競爭：挑戰(zhàn)與機(jī)遇并存

當(dāng)前AI專用芯片領(lǐng)域呈現(xiàn)多元化競爭態(tài)勢，華為NPU與谷歌TPU憑借各自的技術(shù)突破，正在重塑行業(yè)格局。兩家公司在技術(shù)與性能上均展現(xiàn)了卓越性能，對英偉達(dá)在市場和生態(tài)建設(shè)方面構(gòu)成了有力挑戰(zhàn)。然而，英偉達(dá)GPU在AI芯片領(lǐng)域的主導(dǎo)地位依然穩(wěn)固。憑借強(qiáng)大的技術(shù)實力、成熟的開發(fā)平臺以及廣泛的用戶基礎(chǔ)，英偉達(dá)繼續(xù)占據(jù)著市場的大部分份額，在大模型訓(xùn)練領(lǐng)域，其最新發(fā)布的H200 GPU進(jìn)一步強(qiáng)化了算力優(yōu)勢，鞏固了行業(yè)領(lǐng)導(dǎo)地位。當(dāng)前AI芯片市場呈現(xiàn)出“一超多強(qiáng)”的競爭態(tài)勢，英偉達(dá)作為領(lǐng)軍者，引領(lǐng)著行業(yè)的發(fā)展。自研AI專用芯片已成為各大IT廠商的必選路徑。華為NPU和谷歌TPU為應(yīng)對競爭提供了差異化發(fā)展的新思路，尤其是在新技術(shù)快速迭代的背景下，通過自研技術(shù)增強(qiáng)市場主導(dǎo)權(quán)。

專利戰(zhàn)略已成為競爭的關(guān)鍵維度。領(lǐng)先企業(yè)普遍采用“技術(shù)研發(fā)-專利布局-生態(tài)構(gòu)建”的三位一體發(fā)展模式。國際科技巨頭如微軟已推出Azure Maia芯片，亞馬遜則通過Trainium芯片強(qiáng)化AWS服務(wù)，國內(nèi)的寒武紀(jì)、壁仞科技等專精特新企業(yè)則致力于在AI專用芯片新領(lǐng)域的研發(fā)布局。隨著技術(shù)的不斷進(jìn)步，未來AI芯片領(lǐng)域的競爭將愈發(fā)多元化，各廠商將通過技術(shù)創(chuàng)新和市場策略的優(yōu)化，共同推動行業(yè)的持續(xù)發(fā)展。

（文章來源：《創(chuàng)意世界》2025年6月號）

【點擊下方小程序購買本期雜志】

編校：苑寶平，審讀：郭麗

/ / / /

/ / /

/ /

/ / /

/ / /