過去三年里,人工智能(AI)熱潮席卷了科技行業(yè),也為云服務(wù)供應(yīng)商和芯片制造商帶來了不少的麻煩,一直無法滿足日益增長的市場需求。最早是GPU,后來又到了DRAM和NAND閃存,始終伴隨著供應(yīng)短缺的問題。現(xiàn)在存儲類的需求仍然沒有滿足,另外一個潛在的供應(yīng)問題已經(jīng)開始顯現(xiàn),那就是CPU。
![]()
據(jù)Wccftech報道,GPU早已經(jīng)不是云服務(wù)供應(yīng)商的最大瓶頸,現(xiàn)在問題轉(zhuǎn)移到了CPU身上。之前執(zhí)行AI任務(wù)的GPU主要是簡單的推理任務(wù),隨著新模型的出現(xiàn),這些任務(wù)也在不斷演變。伴隨模型數(shù)量激增和需求呈指數(shù)增長,代理AI現(xiàn)被用于調(diào)用數(shù)據(jù)庫,并與高度依賴CPU的任務(wù)進行對接。這些調(diào)用數(shù)據(jù)庫和更多CPU密集型任務(wù),導致云數(shù)據(jù)中心的CPU使用率急劇上升。
現(xiàn)階段GPU在服務(wù)AI群體的云服務(wù)器中依然占據(jù)主導地位,但是CPU與GPU之間的差距正在縮小,GPU與CPU的比例相近。CPU無法滿足龐大的需求已經(jīng)導致數(shù)據(jù)庫不穩(wěn)定,用戶提交的請求不能得到及時的回應(yīng)。
早在數(shù)個月前,英特爾已經(jīng)發(fā)出了警告,將更多的產(chǎn)能放到服務(wù)器產(chǎn)品上,并提高了消費端產(chǎn)品的價格,隨后AMD也作出了類似的決定。Arm CPU受到的沖擊更為嚴重,過去x86供應(yīng)較少,Arm資源較多,不少公司將代碼庫從x86遷移到Arm,使得現(xiàn)在情況變得更加棘手。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.