![]()
散英魂寄千萬雄鷹翱翔神州,
盡智魄載十億慧芯呼喚華夏。
01
前沿導讀
上海人工智能研究院數字化治理中心主任彭嘉昊在接受國內媒體采訪時表示,我們目前的芯片擅長推理,也就是應用層面。
但是在大模型的訓練上面,我們與美國英偉達產品的差距很大,尤其是在單卡性能上面,我們的昇騰910B差不多能達到英偉達A100的算力,相當于美國5年前的水平。
![]()
我們的策略就是正視在技術層面的差距,通過計算集群和超節點的技術策略來彌補單卡性能上面的差異。
如果僅僅只是在應用層面,那我們目前已經可以解決很多急需解決的問題,例如涉及到民生領域的應用問題,我們可以實現國產替代,但是在最前沿的模型訓練領域,我們還在追趕的過程中。
![]()
02
超節點
根據中科院物理研究所發布的資料顯示,ai產業當中有一個技術概念叫做超節點,超節點就相當于把Scale Up(向上擴展)和Scale Out(向外擴展)結合在一起,提升整體的性能和大模型訓練推理的效率。
Scale Up指的是硬件為主,在算力不夠的情況下,通過添加更多的GPU和內存提升單個設備的性能。
Scale Out指的是協同工作,在單個設備性能不足的情況下,將多個同樣性能的設備聯合在一起,通過協同工作來提升性能。
![]()
超節點將兩者的概念融合,將多個設備通過技術手段進行深度協同使其在邏輯層面表現為一臺統一的設備,從而提升整體的算力性能。
參考資料: 小棗君,公眾號:中科院物理所
這個技術最早是由英偉達公司提出的概念,2024年英偉達發布了NVL72,NVL72將36個Grace CPU和72個Blackwell GPU集成到一個液冷機柜中,實現總計720 PFLOPs的稀疏FP8計算性能,或1440 PFLOPs的推理性能。并且英偉達的超節點技術為私有協議,其他廠商無法直接使用。
![]()
2025年,華為推出了CloudMatrix 384超節點技術,該技術與英偉達一樣均為私有協議,用384張昇騰算力卡和192顆鯤鵬芯片組成超節點,在目前已商用的超節點中單體規模最大,可提供高達300 PFLOPs的密集BF16算力,接近達到英偉達GB200 NVL72系統的兩倍。
![]()
在國產單卡芯片較為落后的情況下,通過超節點技術可以有效填補當下產業發展的真空期,推動國內ai產業在應用推理層面繼續向前發展,持續優化技術。
并且中國成熟完善的資源建設體系,足以支撐起國內多個大規模數據中心的運行。華為的CloudMatrix 384超節點已經在烏蘭察布、貴安、蕪湖等三個地方完成了規模化部署,支撐起超過160個第三方大模型的訓練推理,并同步適配了Deep Seek等模型的應用場景。產業資源的優勢,成為了中國發展ai技術的核心力量。
03
技術優化
在受到美國的全面封鎖之后,中國企業就開始將目光轉向技術優化策略。一邊通過技術優化提升整體性能,一邊深度聯合產業鏈對卡脖子的困境進行突圍。
除上述提到的超節點技術之外,在被美國出口管制期間,最早一批通過技術優化實現性能提升的產品可以追溯到華為的麒麟9000S,然后就是Deep Seek。
麒麟9000S的等效工藝為7nm,采用浸潤式DUV光刻機和自對準多重圖案化制造完成。其內部CPU的大中核心為華為自研的泰山架構,小核心采用了ARM提供的A510,支持8核12線程的超線程技術。
![]()
在此之前,超線程技術一直被用在X86架構的PC領域,麒麟9000S是行業內第一款支持超線程的ARM芯片。
在同等工藝下,想要提升性能無非兩種方法,超頻和超線程。
超頻就是單純拉高芯片的CPU頻率,以此來獲得更好的性能表現。對比未超頻的CPU,想要完全發揮出超頻技術的作用,需要保持在一個較高負載的場景下。而超線程雖然也可以帶來性能上的提升,但提升的性能跟功耗基本持平,適合應用在多任務場景中。
![]()
超線程適用于PC行業,個人電腦的體積較大,并且散熱效率更高,可以承擔超線程技術所帶來的功耗提升。而手機產品由于尺寸較小,內部空間有限,所以對于功耗特別敏感。相對于超線程技術,直接給手機CPU超頻是更加合適的方案。
但是受限于美國的制裁封鎖,麒麟9000S采用了超線程技術,為了盡可能壓制超線程所帶來的溫度上升,華為在mate60系列的屏幕后面又加入了一大塊均熱板。華為后續的芯片升級,均可以看做是基于麒麟9000S進行的全方位超頻。
![]()
Deep Seek也是如此,通過對特定的場景進行針對性訓練,用較少的技術成本實現了比肩GPT的算力性能。在先進光刻機的問題沒有得到有效解決之前,這種用技術優化來穩步提升芯片性能的思路,是當下中國企業重點推進的方向。
往期經典回顧:50萬+閱讀量
往期經典回顧:100萬+閱讀量
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.