![]()
本文由半導(dǎo)體產(chǎn)業(yè)縱橫(ID:ICVIEWS)編譯自ieee
PowerLattice 破解 AI 芯片耗電難題。
即使數(shù)據(jù)中心中的GPU運(yùn)行大型語(yǔ)言模型理論上只需要700瓦,但由于電力輸送效率低下,實(shí)際可能需要1700瓦。彭鄒和他的團(tuán)隊(duì)在初創(chuàng)公司PowerLattice表示,他們通過(guò)小型化和重新封裝高壓穩(wěn)壓器解決了這個(gè)問(wèn)題。
該公司聲稱,其新型芯片通過(guò)縮小電壓轉(zhuǎn)換過(guò)程并將其顯著移近處理器,可降低高達(dá)50% 的功耗,并使每瓦性能提高一倍。
![]()
PowerLattice的電壓調(diào)節(jié)器芯片
電力輸送的萎縮與轉(zhuǎn)移
傳統(tǒng)系統(tǒng)通過(guò)將電網(wǎng)提供的交流電轉(zhuǎn)換為直流電來(lái)為人工智能芯片供電,然后再將直流電再次轉(zhuǎn)換為GPU可用的低壓(約1伏)直流電。由于電壓下降,為了節(jié)省電能,電流必須增加。
這種能量交換發(fā)生在處理器附近,但電流即使在低電壓狀態(tài)下也需要流經(jīng)相當(dāng)長(zhǎng)的距離。高電流流經(jīng)任何距離都是不利的,因?yàn)橄到y(tǒng)會(huì)以熱量的形式損耗能量,損耗量與電流的平方成正比。“距離處理器越近,高電流需要流經(jīng)的距離就越短,因此我們可以減少功率損耗,”加州大學(xué)圣地亞哥分校研究電力電子的Hanh-Phuc Le說(shuō)道,他與PowerLattice公司沒(méi)有任何關(guān)聯(lián)。
鑒于人工智能數(shù)據(jù)中心的能耗不斷增長(zhǎng),“這在今天幾乎已經(jīng)成為一個(gè)阻礙發(fā)展的問(wèn)題,” PowerLattice 的鄒說(shuō)。
鄒認(rèn)為他和同事們找到了避免這種巨大功率損耗的方法。他們沒(méi)有像以往那樣在距離處理器幾厘米的地方降低電壓,而是找到了在處理器封裝內(nèi)部幾毫米處降低電壓的方法。PowerLattice公司設(shè)計(jì)了微型供電芯片,將電感器、電壓控制電路和軟件可編程邏輯集成到一個(gè)只有鉛筆橡皮擦兩倍大小的集成電路中。這些芯片位于處理器封裝基板下方,并與之連接。
PowerLattice 的研發(fā)人員面臨的一項(xiàng)挑戰(zhàn)是如何在不影響電感器性能的前提下縮小其尺寸。電感器能夠暫時(shí)存儲(chǔ)能量,然后平穩(wěn)地釋放,幫助穩(wěn)壓器維持穩(wěn)定的輸出。電感器的物理尺寸直接影響其能量存儲(chǔ)能力,因此縮小尺寸會(huì)削弱其作用。
這家初創(chuàng)公司通過(guò)使用一種特殊的磁性合金來(lái)制造電感器,從而解決了這個(gè)問(wèn)題。鄒表示,這種合金“使我們能夠在高頻下高效運(yùn)行電感器”。“我們的工作頻率比傳統(tǒng)方案高出百倍。” 在更高的工作頻率下,電路可以設(shè)計(jì)成使用電感值更低的電感器,這意味著元件本身可以使用更少的材料。這種合金的獨(dú)特之處在于,即使在如此高的頻率下,它也能保持比同類材料更好的磁性。
鄒教授表示,最終制成的微型芯片面積不到目前電壓調(diào)節(jié)器的二十分之一,厚度僅為100微米,大約相當(dāng)于一根頭發(fā)絲的粗細(xì)。如此小的尺寸使得微型芯片可以盡可能靠近處理器安裝,節(jié)省下來(lái)的空間可以為其他組件提供寶貴的安裝空間。
![]()
PowerLattice的芯片組將位于 GPU 封裝的底部,從下方提供電源。
鄒表示,即使尺寸很小,這項(xiàng)專有技術(shù)也“高度可配置且可擴(kuò)展”。客戶可以使用多個(gè)芯片組來(lái)實(shí)現(xiàn)更全面的解決方案,或者如果他們的架構(gòu)不需要,也可以使用更少的芯片組。鄒認(rèn)為,這是PowerLattice電壓調(diào)節(jié)解決方案的“關(guān)鍵優(yōu)勢(shì)之一”。
該公司聲稱,采用芯片組技術(shù)可以為運(yùn)營(yíng)商降低50% 的電力需求,從而有效提升性能。但 Le 認(rèn)為這個(gè)數(shù)字過(guò)于樂(lè)觀。他表示,50% 的節(jié)能“或許可以實(shí)現(xiàn),但這意味 PowerLattice 必須能夠直接控制負(fù)載,包括處理器。” 他認(rèn)為,只有當(dāng)該公司能夠根據(jù)處理器的負(fù)載實(shí)時(shí)管理電源時(shí),才能真正實(shí)現(xiàn)這一目標(biāo)——這種技術(shù)被稱為動(dòng)態(tài)電壓和頻率調(diào)節(jié)——而 PowerLattice 目前并不具備這種能力。
面臨競(jìng)爭(zhēng)
目前,PowerLattice正在進(jìn)行可靠性和驗(yàn)證測(cè)試,預(yù)計(jì)將在兩年后向客戶發(fā)布首款產(chǎn)品。但將這些芯片推向市場(chǎng)并非易事,因?yàn)镻owerLattice面臨著一些實(shí)力雄厚的競(jìng)爭(zhēng)對(duì)手。例如,英特爾正在開(kāi)發(fā)一款全集成電壓調(diào)節(jié)器,該設(shè)備的部分目的就是為了解決同樣的問(wèn)題。
鄒認(rèn)為英特爾并非競(jìng)爭(zhēng)對(duì)手,因?yàn)槌水a(chǎn)品在供電方式上的差異外,他也不相信英特爾會(huì)向競(jìng)爭(zhēng)對(duì)手提供技術(shù)。“從市場(chǎng)定位的角度來(lái)看,我們和英特爾有很大的不同,”鄒說(shuō)道。
Le表示,十年前,PowerLattice根本沒(méi)有發(fā)展空間,因?yàn)楫?dāng)時(shí)處理器廠商只有在客戶同時(shí)購(gòu)買其電源產(chǎn)品的情況下才會(huì)保證芯片的可靠性。“例如,高通可以銷售其處理器芯片,但絕大多數(shù)客戶也必須購(gòu)買其專有的高通電源管理芯片,否則高通就會(huì)說(shuō),‘我們不保證整個(gè)系統(tǒng)的可靠運(yùn)行。’”
不過(guò),現(xiàn)在或許有了希望。“目前有一種我們稱之為芯片組實(shí)現(xiàn)的趨勢(shì),這是一種異構(gòu)集成,”Le說(shuō)道。他表示,客戶正在將來(lái)自不同公司的組件混合搭配使用,以實(shí)現(xiàn)更好的系統(tǒng)優(yōu)化。
盡管像英特爾和高通這樣的知名供應(yīng)商可能仍然憑借其強(qiáng)大的客戶群占據(jù)優(yōu)勢(shì),但規(guī)模較小的公司——主要是初創(chuàng)公司——在構(gòu)建處理器和人工智能基礎(chǔ)設(shè)施方面也同樣需要大量的電力。Le 表示,這些公司需要尋找電源,而 PowerLattice 和類似的公司正可以滿足這一需求。“市場(chǎng)就是這樣。我們看到一家初創(chuàng)公司與另一家初創(chuàng)公司合作,共同開(kāi)發(fā)的產(chǎn)品實(shí)際上可以與一些大型公司相媲美,甚至展開(kāi)競(jìng)爭(zhēng)。”
*聲明:本文系原作者創(chuàng)作。文章內(nèi)容系其個(gè)人觀點(diǎn),我方轉(zhuǎn)載僅為分享與討論,不代表我方贊成或認(rèn)同,如有異議,請(qǐng)聯(lián)系后臺(tái)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.