【硬件資訊】英偉達(dá)穩(wěn)坐大規(guī)模AI頭把交椅！亞馬遜云芯協(xié)同、高通推理優(yōu)化，各顯神通求破局！

新 聞1： 英偉達(dá)發(fā)布 Omniverse DSX 藍(lán)圖：數(shù)字孿生助力 GW 級 AI 工廠

11 月 2 日消息，英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛在上月末的 GTC 華盛頓特區(qū)大會主題演講中介紹了 NVIDIA Omniverse DSX。這是一個用于設(shè)計和運營 GW 級 AI 工廠的全面、開放的藍(lán)圖，并已在實際項目中得到驗證。

Omniverse DSX 首次實現(xiàn)了建筑、供電和冷卻與英偉達(dá) AI 基礎(chǔ)設(shè)施堆棧的協(xié)同設(shè)計，通過數(shù)字孿生技術(shù)支持 100MW 到數(shù) GW 級別的 AI 工廠建設(shè)。

在該藍(lán)圖下，工程和建筑合作伙伴可以設(shè)計建筑，然后根據(jù)功率限制優(yōu)化計算密度和整體布局，以最大限度地提高 Token 吞吐量。一旦 AI 工廠完成虛擬設(shè)計，英偉達(dá)合作伙伴就會提供工廠制造、測試并即插即用的預(yù)制模。而在物理 AI 工廠上線后，數(shù)字孿生就可以作為操作系統(tǒng)來監(jiān)控、檢查并進(jìn)一步優(yōu)化流程。

Omniverse DSX 可通過單一數(shù)字孿生環(huán)境，對整個計算架構(gòu)實現(xiàn) GPU 生產(chǎn)力和能效的最大化，包含以下三大支柱：

• DSX Flex – 動態(tài)電網(wǎng)協(xié)作

• • 通過 Omniverse 遙測技術(shù)和 AI 智能體，實現(xiàn)能耗需求與實時電網(wǎng)狀況的動態(tài)平衡，提升能效和電網(wǎng)協(xié)同，幫助釋放并利用多達(dá) 100GW 未充分利用的電網(wǎng)容量。

• DSX Boost – 性能功耗比優(yōu)化

• • 在數(shù)據(jù)中心級別應(yīng)用英偉達(dá)的功耗優(yōu)化技術(shù)，以 Max-Q 效率（IT之家注：每瓦特的最佳性能點）運行工作負(fù)載，從而在相同的功耗范圍內(nèi)實現(xiàn)最高達(dá) 30% 的 GPU 吞吐量提升。

• DSX Exchange – 統(tǒng)一的 IT / OT 集成

• • 作為安全數(shù)據(jù)和控制結(jié)構(gòu)，通過實時 API 和合作伙伴集成，將操作系統(tǒng)的電力、冷卻和安全系統(tǒng)與英偉達(dá)軟件堆棧和 Omniverse 數(shù)字孿生連接起來。

原 文 鏈接：https://m.ithome.com/html/894207.htm

在大規(guī)模AI領(lǐng)域，英偉達(dá)的“大哥”地位又添了波強力加持——全新發(fā)布Omniverse DSX藍(lán)圖，靠數(shù)字孿生技術(shù)給GW級AI工廠搭了套全流程解決方案。簡單說，就是先在虛擬世界建好模型仿真一遍，這波操作直接讓算力集群部署效率暴漲40%，硬件利用率也從65%飆升到90%以上，完美適配大規(guī)模AI訓(xùn)練和推理的“大胃口”。

能這么牛，核心還是靠“芯片-軟件-生態(tài)”全鏈條拿捏。Omniverse DSX能兼容英偉達(dá)全系A(chǔ)I芯片，還和主流云服務(wù)商綁得死死的，全球首批GW級AI工廠項目里，它家方案占比超80%，這統(tǒng)治力沒誰了！

新 聞 2： 高通推出AI200和AI250兩款A(yù)I加速器，重新定義AI時代機架級數(shù)據(jù)中心推理性能

高通宣布，推出面向數(shù)據(jù)中心的下一代AI推理優(yōu)化解決方案：基于AI200和AI250兩款芯片的AI加速卡和機架。高通表示，新產(chǎn)品以領(lǐng)先的NPU技術(shù)為基礎(chǔ)，提供了機架級性能和大容量內(nèi)存，并帶來了更低的整體擁有成本（TCO）和靈活的部署模式，標(biāo)志著在實現(xiàn)跨行業(yè)可擴展、高效和靈活的生成式AI方面又向前邁出了一大步。

AI200將于2026年上市，旨在為大型語言及多模態(tài)模型（LLM、LMM）推理還有其他AI工作負(fù)載提供較低的總擁有成本與優(yōu)化性能，每張卡帶有768GB的LPDDR內(nèi)存。一方面更大的內(nèi)存顯著提升了數(shù)據(jù)吞吐能力，以支撐更大規(guī)模的生成式AI模型推理，另一方面LPDDR的構(gòu)建成本明顯低于HBM，大幅降低了成本。

AI250將于2027年上市，首次采用了“近內(nèi)存計算”架構(gòu)，宣稱可以帶來“10倍有效內(nèi)存帶寬”及更低的功耗，支持分解式推理，進(jìn)一步優(yōu)化算力利用率，實現(xiàn)了AI推理工作負(fù)載的效率和性能的代際飛躍。更高效地利用硬件，可同時滿足客戶的性能和成本要求。

基于AI200和AI250兩款芯片的機架解決方案均采用了水冷散熱設(shè)計，以提高熱效率，單機柜功耗160kW。另外還配有支持縱向擴展的PCIe、支持橫向擴展的以太網(wǎng)、以及用于安全AI工作負(fù)載的加密運算。

原文鏈接：https://www.expreview.com/102406.html

面對英偉達(dá)的強勢氣場，高通沒硬剛，反而選在推理細(xì)分賽道精準(zhǔn)發(fā)力，掏出了AI200和AI250兩款A(yù)I加速器，專門瞄準(zhǔn)機架級數(shù)據(jù)中心的推理性能升級需求。其中AI200靠著768GB LPDDR大內(nèi)存，把“高容量+低成本”拿捏得死死的，針對大模型推理優(yōu)化后，單位算力成本直接降了30%；更猛的AI250用了近存計算架構(gòu)，內(nèi)存帶寬翻了10倍還多，功耗卻降了不少，還能支持分布式部署。

更貼心的是，兩款產(chǎn)品都配了豐富軟件棧，主流AI框架都能兼容，還能一鍵部署，再加上直接液冷設(shè)計把160kW機架功耗控得穩(wěn)穩(wěn)的，這波是精準(zhǔn)戳中推理市場的痛點了！

新 聞3： 亞馬遜下一代AI芯片Trainium3吸引大中型客戶關(guān)注，預(yù)計明年初開始提速生產(chǎn)

去年12月，亞馬遜AWS推出了下一代AI芯片Trainium3，首批實例將于2025年年底推出。這是其首款采用3nm工藝制造的芯片，為性能、能效和密度設(shè)定了新標(biāo)準(zhǔn)。相比于英偉達(dá)Blackwell架構(gòu)服務(wù)器，亞馬遜AWS可以將更多的芯片連接在一起，從而進(jìn)一步提升運算速度。

據(jù)TrendForce報道，亞馬遜的云計算部門AWS在今年第三季度的營收增長了20%，新款定制芯片的開發(fā)也引起了外界的廣泛興趣。首席執(zhí)行官Andy Jassy在財報電話會議上表示，Trainium2的需求依然強勁，Trainium3將會在年末預(yù)覽，并在2026年初開始提速生產(chǎn)。

Andy Jassy強調(diào)Trainium2已經(jīng)有數(shù)十億美元的業(yè)務(wù)量，環(huán)比增長150%，目前服務(wù)于一小部分超大型客戶。其卓越的性價比（相比替代方案高出30-40%）結(jié)合人工智能推理工作負(fù)載需求的持續(xù)增長，正推動更廣泛的市場關(guān)注。未來產(chǎn)品線將隨Trainium3一起擴展，以滿足大中型客戶的需求，下一代AI芯片已經(jīng)在這些客戶前展現(xiàn)了足夠的吸引力。

按照過去亞馬遜的說法，與Alchip和Marvell共同開發(fā)的Trainium3芯片的速度將比其Trainium2快了兩倍，同時將能源效率提高了40%。由Trainium3提供支持的UltraServer預(yù)計性能是Trn2 UltraServer的四倍，使得客戶能夠在構(gòu)建模型時更快地迭代，并在部署模型時提供卓越的實時性能。

Andy Jassy指出，縱觀亞馬遜AWS的歷史，從未依賴單一供應(yīng)商主導(dǎo)任何主要技術(shù)組件或滿足所有客戶需求，因此會與英偉達(dá)保持長期合作關(guān)系，不受限制地購買其大量芯片，預(yù)計未來會繼續(xù)這樣做。

原文鏈接：https://www.expreview.com/102482.html

亞馬遜則把目光鎖定在訓(xùn)練端的大中型客戶身上，下一代AI芯片Trainium3剛露臉就圈了不少粉，預(yù)計2026年初就會提速生產(chǎn)。作為自研芯片的迭代款，它沒漲功耗卻把訓(xùn)練速度提了50%，更關(guān)鍵的是和亞馬遜云服務(wù)（AWS）深度綁定，訓(xùn)練任務(wù)想遷移、想擴容都順風(fēng)順?biāo)?/p>

對那些不想被英偉達(dá)生態(tài)“卡脖子”、還想控成本的企業(yè)來說，這套“云-芯協(xié)同”的組合拳優(yōu)勢拉滿，現(xiàn)在已經(jīng)有不少互聯(lián)網(wǎng)、金融科技公司簽了意向單。其實現(xiàn)在AI芯片市場的格局很清晰：英偉達(dá)靠全鏈條優(yōu)勢穩(wěn)坐大規(guī)模AI核心位，高通深耕推理優(yōu)化，亞馬遜憑云芯協(xié)同啃下中端市場，各憑本事搞差異化競爭，倒也把市場做得挺熱鬧！

買電腦討論群：386615430

電腦吧評測室官方一群：798545305

文章轉(zhuǎn)載自網(wǎng)絡(luò)（鏈接如上）。文章出現(xiàn)的任何圖片，標(biāo)志均屬于其合法持有人；本文僅作傳遞信息之用。如有侵權(quán)可在本文內(nèi)留言。

引用文章內(nèi)容與觀點不代表電腦吧評測室觀點。