技嘉AI TOP ATOM體驗(yàn)：Blackwell+趨境智問，AI的未來就擺在你的桌面

近些年，AI風(fēng)口的大勢(shì)已成，且有著下沉本地的明顯趨勢(shì)，本地化、私有化的AI應(yīng)用業(yè)已呈現(xiàn)出需求日益增長(zhǎng)的明顯勢(shì)頭。在這個(gè)風(fēng)口浪尖上，技嘉科技推出了一款名為AI TOP ATOM的迷你桌面AI PC，且將其定位為“個(gè)人AI超級(jí)電腦”。將原本屬于數(shù)據(jù)中心級(jí)別的算力，濃縮進(jìn)一個(gè)適合辦公桌面的緊湊機(jī)身中的它，有著怎樣的神奇魔法？讓我們一起來看看。

當(dāng)技嘉AI TOP ATOM到達(dá)MC評(píng)測(cè)室時(shí)，它著實(shí)給了我們幾分熟悉的陌生人的感覺，因?yàn)樗谕庥^上和技嘉之前曾推出過的NUC產(chǎn)品頗有幾分神似——小巧精致的機(jī)身設(shè)計(jì)，卻蘊(yùn)含著強(qiáng)大的性能潛力，讓人忍不住想要一探究竟。作為一款面向開發(fā)者、科研人員及數(shù)據(jù)科學(xué)家的專業(yè)設(shè)備，技嘉AI TOP ATOM 的外觀設(shè)計(jì)語言摒棄了傳統(tǒng)游戲PC常見的夸張RGB燈效和激進(jìn)線條，轉(zhuǎn)而采用了一種更為沉穩(wěn)、專業(yè)的極簡(jiǎn)工業(yè)風(fēng)格。作為NVIDIA DGX SPARK的二次開發(fā)定制優(yōu)化產(chǎn)品，這款桌面迷你AI PC，究竟能帶來怎樣的驚喜體驗(yàn)?zāi)兀?/p>

01

極簡(jiǎn)主義的工業(yè)美學(xué)

在技嘉的官網(wǎng)上，官方明確將其描述為具備“小巧緊湊”的機(jī)身形態(tài)。這款150mm×150 mm×50.5mm大小的機(jī)器僅略大于傳統(tǒng)NUC產(chǎn)品，遠(yuǎn)小于傳統(tǒng)的Mini ITX主機(jī)或小型化工作站。

這種設(shè)計(jì)讓AI TOP ATOM能完美融入辦公桌環(huán)境，不占用過多空間，方便用戶在有限的辦公區(qū)域內(nèi)進(jìn)行本地AI開發(fā)、原型設(shè)計(jì)及模型微調(diào)。而且整體造型趨向方正、規(guī)整，強(qiáng)調(diào)功能性與空間利用率的極致結(jié)合。

雖然是同源，但和NVIDIA DGX SPARK張揚(yáng)的“土豪金”配色不同，技嘉AI TOP ATOM呈現(xiàn)出的是一種低調(diào)內(nèi)斂的風(fēng)格。它采用了銀灰色的高強(qiáng)度金屬外殼，能夠確保結(jié)構(gòu)的堅(jiān)固性及對(duì)內(nèi)部精密元件的保護(hù)。在表面采用啞光細(xì)磨砂工藝，能極大減少指紋殘留并提升專業(yè)質(zhì)感，同時(shí)還能輔助散熱。

技嘉AI TOP ATOM的兩個(gè)散熱出口放在正前和接口一側(cè)的尾部，采用了橫柵格的通風(fēng)設(shè)計(jì)，內(nèi)側(cè)輔以裝飾條作為強(qiáng)化筋以保證柵格的穩(wěn)固性。這種隱蔽式的進(jìn)出風(fēng)口設(shè)計(jì)，在保證散熱的同時(shí)維持了AI TOP ATOM外觀的整體性，且能較為有效地降低運(yùn)行噪聲，以適應(yīng)安靜的AI應(yīng)用或設(shè)計(jì)創(chuàng)作環(huán)境。

▲機(jī)身整體采用銀灰色調(diào)，十分低調(diào)。

▲GIGABYTE的Logo擋在正面的右下方，同樣非常內(nèi)斂，產(chǎn)品的整體一致性很優(yōu)秀。出風(fēng)口采用了柵格設(shè)計(jì)且設(shè)計(jì)了強(qiáng)化筋條。

▲技嘉AI TOP ATOM的背部接口按鍵布局。包括3個(gè)USB 3.2 Type-C、1個(gè)Type-C的240W電源接口、1個(gè)HDMI 2.1a視頻輸出接口、1個(gè)10Gbps RJ-45有線網(wǎng)絡(luò)接口、1個(gè)NVIDIA ConnectX-7接口(和DGX SPARK一樣，這個(gè)接口用于兩臺(tái)AI TOP ATOM互聯(lián)實(shí)現(xiàn)算力、顯存和帶寬的翻倍增加)以及電源按鍵。

▲NVIDIA ConnectX-7智能網(wǎng)卡。用戶可以通過該網(wǎng)卡輕松連接兩套技嘉AI TOP ATOM系統(tǒng)，將顯存和算力池化，從而支持高達(dá)4000億以上參數(shù)的超大模型運(yùn)行。這種“樂高式”的拼接擴(kuò)展設(shè)計(jì)，讓用戶可以根據(jù)項(xiàng)目需求靈活升級(jí)，無需一次性投入昂貴的單一大型服務(wù)器。

▲右側(cè)是肯辛頓微鎖孔，用于產(chǎn)品的物理防盜。

▲左側(cè)沒有任何多余設(shè)計(jì)

▲底部設(shè)計(jì)了兩個(gè)橡膠墊腳橫條用于墊高產(chǎn)品輔助散熱，同時(shí)底部的一側(cè)采用了內(nèi)凹槽的挖空設(shè)計(jì)，也能在一定程度上加強(qiáng)AI TOP ATOM的散熱性能。

▲電源適配器240W最大輸出，采用了Type-C接口。

02

NVIDIA DGX SPARK同款，128GB統(tǒng)一內(nèi)存+NVIDIA Grace GB10芯片當(dāng)家

在低調(diào)外觀設(shè)計(jì)的背后，技嘉AI TOP ATOM的核心競(jìng)爭(zhēng)力在于其內(nèi)部架構(gòu)的革新。它將服務(wù)器級(jí)的硬件規(guī)格塞入了桌面級(jí)的外殼中，這本身就是其最大的設(shè)計(jì)亮點(diǎn)。

在硬件層面，技嘉AI TOP ATOM內(nèi)部最重要的元件是CPU+GPU一體封裝設(shè)計(jì)的NVIDIA GB10 Grace Blackwell芯片，NVIDIA將其稱為“Super Chip”。

NVIDIA GB10是一次基于先進(jìn)封裝技術(shù)的深度集成，遠(yuǎn)非CPU+GPU簡(jiǎn)單拼接那么簡(jiǎn)單。

首先，GB10采用了目前業(yè)界最先進(jìn)的臺(tái)積電3納米制程工藝，不僅大幅提升了晶體管密度，更關(guān)鍵的是在高性能輸出下實(shí)現(xiàn)了卓越的能效比，使得GB10芯片的TDP被控制在140W左右，完美適配桌面級(jí)散熱系統(tǒng)。其次，NVIDIA對(duì)GB10芯片采用了2.5D CoWoS封裝，將ARM架構(gòu)的Grace CPU die和Blackwell GPU die封裝在同一個(gè)基板上。這種物理上的極度接近，為兩者之間的高速互連奠定了物理基礎(chǔ)。

GPU部分是GB10芯片的靈魂，它繼承了NVIDIA新一代Blackwell架構(gòu)的全部精髓，但針對(duì)桌面AI應(yīng)用場(chǎng)景進(jìn)行了優(yōu)化。這顆GPU內(nèi)置6144個(gè)CUDA核心，與消費(fèi)級(jí)顯卡市場(chǎng)的GeForce RTX 5070一致。雖然在CUDA數(shù)量上相比B200這種NVIDIA旗艦數(shù)據(jù)中心顯卡相去甚遠(yuǎn)，但在140W功耗限制下，GB10這一規(guī)模已屬驚人。GB10集成了新一代Blackwell架構(gòu)的Tensor Core，支持FP4、FP8等低精度計(jì)算格式。特別是FP4精度下的算力爆發(fā)，使其在推理場(chǎng)景下能釋放出高達(dá)1000 AI TOPS的性能，支持運(yùn)行高達(dá)2000億參數(shù)的模型。這種性能密度在傳統(tǒng)桌面PC中幾乎不可見，通常只有機(jī)架式服務(wù)器才能提供。

GB10芯片內(nèi)部并未板載大容量顯存，而是通過統(tǒng)一內(nèi)存架構(gòu)訪問系統(tǒng)內(nèi)存。技嘉AI TOP ATOM機(jī)器中搭配了128GB MPDDR5X統(tǒng)一架構(gòu)內(nèi)存 (Unified Memory Architecture)，GB10內(nèi)部的ARM CPU和Blackwell GPU共享這塊高速內(nèi)存池，消除了數(shù)據(jù)在兩者之間拷貝的瓶頸，極大地提升了大模型訓(xùn)練和推理的效率，這也是針對(duì)AI工作負(fù)載進(jìn)行的針對(duì)性硬件設(shè)計(jì)。同時(shí)，128GB統(tǒng)一內(nèi)存的設(shè)計(jì)不僅能夠輕松支撐千億模型的NVFP4量化運(yùn)行，還能滿足“主模型+Embedding+Rerank”多模型并行運(yùn)行的需求，為多任務(wù)處理預(yù)留了充足的內(nèi)存空間。

技嘉AI TOP ATOM主機(jī)的CPU與GPU之間通過NVLink-C2C (Chip-to-Chip)技術(shù)連接，雙向帶寬是傳統(tǒng)PCIe 5.0雙向帶寬的5倍左右。這種設(shè)計(jì)下，CPU和GPU可以像訪問本地緩存一樣訪問彼此的內(nèi)存空間，真正實(shí)現(xiàn)了統(tǒng)一內(nèi)存架構(gòu)。對(duì)于大模型推理而言，這意味著128GB內(nèi)存可以被CPU和GPU無縫共享，徹底打破了“顯存墻”的限制，讓桌面PC也能流暢運(yùn)行2000億參數(shù)的大模型。這也是GB10和RTX 5070在CUDA核心數(shù)一致的前提下，AI算力卻遠(yuǎn)超后者的核心原因之一。

GB10集成的CPU源自NVIDIA與聯(lián)發(fā)科基于Arm v9.2架構(gòu)定制，其擁有20個(gè)高性能Arm v9.2核心(10個(gè)Cortex-X925+10個(gè)Cortex-A725)，在CPU內(nèi)部形成兩個(gè)核心集群，每個(gè)CPU集群共享16MB L3緩存，總計(jì)32MB L3緩存。我們的基準(zhǔn)測(cè)試數(shù)據(jù)顯示，其單核頻率可飆升至接近4.0GHz的程度，多核性能在Geekbench中也能達(dá)到10000分以上的成績(jī)。這意味著在處理數(shù)據(jù)預(yù)處理、邏輯控制等非GPU任務(wù)時(shí)，GB10也擁有不遜色于中高端桌面x86處理器的實(shí)力，同時(shí)功耗表現(xiàn)更低，更適配緊湊型機(jī)身的散熱需求。

技嘉 AI TOP ATOM產(chǎn)品資料

產(chǎn)品名稱：GIGABYTE AI TOP ATOM

處理器：10個(gè)Cortex-X925+10個(gè)Cortex-A725

芯片組：NVIDIA GB10 Grace Blackwell Superchip

GPU：NVIDIA Blackwell GPU，6144個(gè)CUDA核心

AI性能：1 PetaFLOP算力(1000 TFLOPS(AI TOPS)，NVFP4精度)

內(nèi)存：128GB LPDDR5x統(tǒng)一系統(tǒng)內(nèi)存

內(nèi)存位寬：256-bit

內(nèi)存帶寬：273GB/s

存儲(chǔ)：最高支持Gen5 14000 MB/s SSD 4TB

接口：1×USB 3.2 Gen 2 Type-C (供電輸入)、3×USB 3.2 Gen 2 Type-C、1×NVIDIA ConnectX-7、1×RJ-45接口(萬兆以太網(wǎng))、1×HDMI 2.1a、1×Kensington Nano安全鎖孔

無線網(wǎng)絡(luò)：Wi-Fi 7, Bluetooth 5.4

電源適配器：240W AC-DC適配器(USB Type-C輸出)

操作系統(tǒng)：可選NVIDIA DGX OS、Ubuntu Linux

重量：約1.2 kg (2.64 lbs)

尺寸：高50.5mm×寬150mm×長(zhǎng)150 mm

參考價(jià)格：N/A

03

實(shí)機(jī)體驗(yàn)，它就是完美的私人AI助理

本次我們拿到的技嘉AI TOP ATOM盒子內(nèi)置了趨境科技與技嘉聯(lián)合打造的趨境智問本地AI應(yīng)用集成系統(tǒng)，用戶拿到手中即可使用，無需經(jīng)歷復(fù)雜的AI應(yīng)用環(huán)境配置與部署。這款產(chǎn)品內(nèi)置了智譜GLM-4.5-Air 106B大模型，并搭載了趨境自研的“以存換算”推理引擎，主打“開機(jī)即用”與“單卡運(yùn)行千億模型”。我們?cè)谑盏皆O(shè)備后，對(duì)其進(jìn)行了為期一周的應(yīng)用體驗(yàn)。必須說明的是，和完全能夠量化每一個(gè)數(shù)據(jù)對(duì)比的游戲PC、商用PC評(píng)測(cè)不同的是，基于技嘉AI TOP ATOM這個(gè)AI超算盒子，我們更多是對(duì)其進(jìn)行實(shí)際應(yīng)用上的體驗(yàn)，希望能清晰地告訴消費(fèi)者——它是什么，以及它能為你做什么。

我們測(cè)試的這臺(tái)樣機(jī)算是AI TOP ATOM的高配版本，內(nèi)置了128GB DDR5內(nèi)存、4TB NVMe SSD以及NVIDIA Grace Blackwell B10芯片。而在軟件部分，操作系統(tǒng)應(yīng)該是基于UBUNTU底層改進(jìn)的趨境自研AIOS系統(tǒng)(請(qǐng)核實(shí)一下)，支持全圖形化操作，上手不是特別困難。當(dāng)然如果你對(duì)Linux系統(tǒng)完全陌生，可能還是需要一點(diǎn)時(shí)間去學(xué)習(xí)適應(yīng)。

技嘉AI TOP ATOM機(jī)器內(nèi)置了兩個(gè)最核心的AI應(yīng)用管理及本地部署的應(yīng)用集群，分別是面向管理、監(jiān)控層面的趨境AMaaS管理平臺(tái)以及面向?qū)嶋H應(yīng)用的趨境智問應(yīng)用平臺(tái)。而要達(dá)到“開箱即用，AI生活工作無障礙”的口號(hào)，技嘉AI TOP ATOM中集成的這兩個(gè)系統(tǒng)平臺(tái)當(dāng)記首功。

04

趨境AMaaS管理平臺(tái)

前文說過，技嘉AI TOP ATOM中已經(jīng)集成了與趨境科技合作的本地部署AI應(yīng)用平臺(tái)，其中的趨境AMaaS(AI Model as a Service)就是它的后臺(tái)中樞。而對(duì)于用戶或者管理員來說，這更是一個(gè)圖形化、零代碼的運(yùn)維神器。

基于圖形化UBUNTU系統(tǒng)的基本操作，限于篇幅我們?cè)诖司筒毁樖隽耍皇煜さ挠脩艨梢宰孕袑W(xué)習(xí)，難度并不大。

▲開機(jī)之后，在瀏覽器界面輸入“http://本機(jī)IP:10001”，即可打開趨境AMaaS登錄界面，輸入賬號(hào)、密碼即可登錄管理后臺(tái)(本次測(cè)試機(jī)的賬號(hào)密碼是隨樣機(jī)附帶設(shè)置好的，正式量產(chǎn)品應(yīng)該會(huì)在產(chǎn)品手冊(cè)中設(shè)置默認(rèn)賬號(hào)與密碼)。

▲登錄AMaaS后臺(tái)，就能看到數(shù)據(jù)概覽儀表盤直觀展示了GPU/CPU負(fù)載、顯存占用、Tokens消耗量等關(guān)鍵指標(biāo)，這里可以清晰地看到每個(gè)模型實(shí)例的資源分配情況。我們通過體驗(yàn)測(cè)試發(fā)現(xiàn)，動(dòng)態(tài)圖表刷新流暢，能夠幫助消費(fèi)者快速識(shí)別資源瓶頸。通過“使用量排行榜”，我們可以輕松識(shí)別出哪些用戶或應(yīng)用在大量消耗算力，從而優(yōu)化資源配額。

▲平臺(tái)內(nèi)置了多款主流模型，無需手動(dòng)下載配置，真正實(shí)現(xiàn)了“開機(jī)即用”。比如在最核心的LLM大語言模型方面，平臺(tái)已經(jīng)集成了GLM 4.5-Air NVFP4 106B大模型。在模型管理界面中可以看到，平臺(tái)的模型核心是LLM大語言模型和VLM視覺－語言模型，此外還包括向量轉(zhuǎn)化Embedding、重新排序Rerank、識(shí)別分析Paraser以及音頻處理Audion等模型架構(gòu)。

▲除了系統(tǒng)默認(rèn)已經(jīng)安裝好的模型之外，玩家也可以自行下載喜歡或常用的模型進(jìn)行安裝。在“私有模型”界面下點(diǎn)擊右側(cè)的“+”即可導(dǎo)入下載的私有模型。注意，下載的模型需要放在“mnt/data/models”文件夾下才能被系統(tǒng)識(shí)別導(dǎo)入。注意在導(dǎo)入模型時(shí)需要根據(jù)模型類型正確設(shè)置各項(xiàng)參數(shù)(需要一定的AI模型相關(guān)知識(shí))。

我們?cè)隗w驗(yàn)測(cè)試中，以私有模型的方式下載了一個(gè)Qwen 2.5 7B模型，在導(dǎo)入之后可以在基于LLM模型的AI應(yīng)用中取代默認(rèn)的GLM 4.5 Air NVFP4 106B大模型。注意，要讓導(dǎo)入的新模型生效，需要在配置界面中對(duì)其各項(xiàng)參數(shù)進(jìn)行設(shè)置，并經(jīng)過檢測(cè)之后才能正常運(yùn)行。

同時(shí)，在本次體驗(yàn)測(cè)試過程中，我們?cè)诩技蜛I TOP ATOM機(jī)器上同時(shí)啟動(dòng)了GLM-4.5-Air NVFP4對(duì)話、Embedding向量化和Rerank重排序三個(gè)實(shí)例。系統(tǒng)自動(dòng)分配資源，互不干擾。這意味著單臺(tái)設(shè)備即可構(gòu)建完整的檢索增強(qiáng)生成鏈路，無需多臺(tái)服務(wù)器拼湊。

▲在“實(shí)驗(yàn)場(chǎng)景”選項(xiàng)下，則可以針對(duì)運(yùn)行的模型進(jìn)行簡(jiǎn)單測(cè)試體驗(yàn)，包括Tokens輸出性能，響應(yīng)時(shí)間，多模型輸出速度對(duì)比等。

05

快速上手的小白式AI應(yīng)用體驗(yàn)：趨境智問系統(tǒng)平臺(tái)

如果說AMaaS是給管理員看的，那么“智問”就是給最終用戶使用的。它不僅僅是一個(gè)聊天窗口，而且更是一個(gè)完整的AI工作臺(tái)。

要登錄技嘉AI TOP ATOM本機(jī)已經(jīng)部署好的趨境智問系統(tǒng)，同樣需要在瀏覽器中輸入“本機(jī)IP:10002”以登錄平臺(tái)。在趨境智問系統(tǒng)平臺(tái)下集成了幾乎所有你能想得到的，跟辦公、生活以及學(xué)習(xí)相關(guān)的各類應(yīng)用，極大地節(jié)省了用戶花時(shí)間去做本地部署的時(shí)間，對(duì)新手用戶而言特別方便。

首先是基于LLM語言大模型的AI搜索和對(duì)話大模型，這兩個(gè)應(yīng)用體現(xiàn)的是知識(shí)搜索與智能文本生成應(yīng)答。

技嘉AI TOP ATOM的AI對(duì)話界面，界面簡(jiǎn)潔直觀，輸入框設(shè)計(jì)合理，支持語音輸入和文字輸入。回答速度快，準(zhǔn)確度高，尤其在專業(yè)領(lǐng)域表現(xiàn)出色。系統(tǒng)會(huì)根據(jù)上下文理解多輪對(duì)話，提供連貫的回答。因此它非常適合日常知識(shí)查詢、學(xué)習(xí)輔導(dǎo)、專業(yè)咨詢等場(chǎng)景。

測(cè)試發(fā)現(xiàn)趨境智問的對(duì)話響應(yīng)迅速，回答質(zhì)量高，支持多輪對(duì)話，能夠很好地理解上下文且覆蓋領(lǐng)域廣泛，準(zhǔn)確度非常高。不過它對(duì)于非常專業(yè)的冷門領(lǐng)域知識(shí)了解不夠全面，有時(shí)回答過于保守，缺乏跳脫性的創(chuàng)新性見解。

AI應(yīng)用分支下是一系列非常好用的AI辦公智能助手功能，包括了智能朋友圈生成、智能小紅書內(nèi)容生成、智能月報(bào)、周報(bào)甚至是年度總結(jié)的生成，在這里你還可以進(jìn)行文章校對(duì)糾錯(cuò)、潤(rùn)色以及調(diào)整語氣等操作，同時(shí)還能設(shè)置各種提醒，整理會(huì)議紀(jì)要，甚至還可以讓AI幫你寫故事、演講稿、發(fā)言稿等等。可以說，這是一個(gè)集中了智能問答、推薦、辦公、創(chuàng)作以及日常事務(wù)管理的完美萬能助手，而且上手使用也非常簡(jiǎn)單，純圖形化的操作界面給人感覺也很親切，幾乎不存在任何應(yīng)用上的難度。

知識(shí)庫的作用是將各類知識(shí)分門別類供用戶檢索。知識(shí)庫板塊資源豐富，分類科學(xué)，檢索高效。知識(shí)圖譜和專家問答功能亮點(diǎn)突出，為用戶提供了權(quán)威、系統(tǒng)的知識(shí)服務(wù)。實(shí)時(shí)更新機(jī)制保證了信息的時(shí)效性，知識(shí)社區(qū)則增強(qiáng)了用戶參與度。從體驗(yàn)試用的情況來看，趨境智問平臺(tái)在新興領(lǐng)域覆蓋和跨學(xué)科整合方面還有提升空間，部分功能的深度和廣度有待加強(qiáng)。

AI閱讀板塊是趨境智問AI系統(tǒng)為優(yōu)化閱讀體驗(yàn)設(shè)計(jì)的功能模塊，借助人工智能提升閱讀效率與理解深度。體驗(yàn)發(fā)現(xiàn)，趨境智問的AI閱讀模塊支持多種文檔格式，有智能摘要、重點(diǎn)提取、翻譯輔助等功能，助用戶高效獲信息。這一板塊功能全，智能摘要和重點(diǎn)標(biāo)注出色，提升閱讀效率；多語言翻譯質(zhì)量高，能夠以閱讀理解輔助增強(qiáng)閱讀深度。從我們實(shí)際感受而言，用戶體驗(yàn)好，界面設(shè)計(jì)合理、操作流暢。只是在復(fù)雜文檔處理和個(gè)性化閱讀輔助上有提升空間，部分功能深度和廣度有待加強(qiáng)。

長(zhǎng)文寫作也算是一個(gè)“樂子”意味比較重的模塊。不得不承認(rèn)，趨境智問在工作流的完整性上做得相當(dāng)出色。對(duì)于需要快速產(chǎn)出標(biāo)準(zhǔn)化長(zhǎng)文的用戶，它幾乎是一個(gè)“無腦友好型”工具。智能大綱與內(nèi)容生成效率高、質(zhì)量穩(wěn)定，風(fēng)格調(diào)整和潤(rùn)色功能顯著提升文本質(zhì)量。它的強(qiáng)項(xiàng)在于結(jié)構(gòu)化思維，不會(huì)讓你面對(duì)空白文檔發(fā)呆，而是直接給出一份邏輯自洽的目錄。雖然略顯模板化，但對(duì)于克服大多數(shù)用戶都存在的“啟動(dòng)困難癥”極其有效，幫你完成寫作之路上從0到1的突破。

不過實(shí)際體驗(yàn)中也發(fā)現(xiàn)它的弱項(xiàng)同樣比較突出，它像是一個(gè)訓(xùn)練有素的初級(jí)文案，卻尚未具備專家級(jí)洞察。在專業(yè)知識(shí)方面泛而不精，缺乏“驚喜感”。對(duì)于追求深度內(nèi)容和獨(dú)特視角的創(chuàng)作者來說，它提供的更多是素材堆砌，而非思想火花。因此，它能很好地解決“從無到有”的過程，目前無法達(dá)到完全的“從有到精”的程度，這還需要人為的后期干預(yù)修正。

整個(gè)體驗(yàn)試用中，會(huì)議助手功能給我們的印象是比較深刻的。會(huì)議助手板塊功能全面，覆蓋會(huì)議管理各環(huán)節(jié)。會(huì)議生成和實(shí)時(shí)記錄功能出色，有效提升會(huì)議效率；摘要提取和行動(dòng)項(xiàng)追蹤功能實(shí)用性強(qiáng)，有力支持會(huì)議成果落實(shí)。整體用戶體驗(yàn)良好，界面設(shè)計(jì)合理，操作流暢。

硬件配置和軟件環(huán)境是基礎(chǔ)，實(shí)際性能才是檢驗(yàn)產(chǎn)品的核心標(biāo)準(zhǔn)。為了全面、客觀地評(píng)估技嘉AI TOP ATOM，我們?cè)隗w驗(yàn)測(cè)試過程中也對(duì)它的AI應(yīng)用，尤其是基于LLM大模型下的應(yīng)用狀況進(jìn)行了一些簡(jiǎn)單測(cè)試，在這里列出供用戶參考。測(cè)試模型選擇的是機(jī)器系統(tǒng)自帶的GLM-4.5-air 106B NVFP4。

▲模型：Qwen 2.5-7B，輸出1024Tokens。

▲GLM 4.5-Air 106B NVFP4，輸出1024Tokens。

首先看在單發(fā)狀態(tài)下針對(duì)不同長(zhǎng)度提示詞時(shí)技嘉AI TOP ATOM機(jī)器的文本輸出速度情況。我們都知道，提示詞越長(zhǎng)，對(duì)總Tokens的消耗越高，輸出性能表現(xiàn)也會(huì)隨之降低。從測(cè)試情況來看，在Qwen-2.5 7B模型下，不同長(zhǎng)度提示詞下的文本生成輸出速度(TPS)平均不到13Tokens/s，中規(guī)中矩。但在GLM 4.5-Air 106B NVFP4模型下，技嘉AI TOP ATOM在100字的提示詞下平均文本輸出速度為22.58Tokens/s，提示詞為300字時(shí)平均文本輸出速度為21.11Tokens/s，而當(dāng)提示詞為500字時(shí)，平均文本輸出速度降低到了20.61Tokens/s。面對(duì)106B大模型，它的性能表現(xiàn)是比較優(yōu)秀的，Blackwell架構(gòu)中的Tensor Core針對(duì)NVFP4精度格式的加速顯然在其中是功不可沒。

在并行處理方面，技嘉AI TOP ATOM還是具備了比較不錯(cuò)的性能表現(xiàn)，在不高于4并發(fā)處理線程時(shí)，平均推理速度基本能保持在10 Tokens/s以上，不過當(dāng)并發(fā)處理超過4時(shí)，性能下降還是比較明顯的。但考慮技嘉AI TOP ATOM的迷你桌面級(jí)體積與功耗，這一表現(xiàn)已經(jīng)讓我們認(rèn)為算是一份比較完美的答卷了，甚至你還可以將AI TOP ATOM作為一個(gè)簡(jiǎn)單的AI云服務(wù)器供數(shù)人共享使用。而且，有多線程并行處理需求的用戶，還完全可以NVIDIA ConnectX-7接口組建AI TOP ATOM集群，以滿足多任務(wù)并行處理的需求。

再來談?wù)勥\(yùn)行過程中的顯存占用情況。從實(shí)際體驗(yàn)來看，當(dāng)使用GLM-4.5-air 106B FP8原始模型時(shí)，運(yùn)行時(shí)會(huì)出現(xiàn)爆顯存的情況，顯存需求遠(yuǎn)超128GB。不過當(dāng)改為GLM-4.5-air 106B NVFP4模型時(shí)，整體運(yùn)行過程顯存占用約為68GB~69GB，大致相當(dāng)于統(tǒng)一內(nèi)存的一半，106B的大模型能夠順利啟動(dòng)運(yùn)行沒有障礙。

最后說一下，基于NVIDIA DGX SPARK的技嘉AI TOP ATOM迷你AI盒子也是完全可以自我部署熱門AI應(yīng)用的，比如Stable Diffusion WEBUI、ComfyUI等都可以自己部署，讓自己的私人數(shù)據(jù)更加私密。當(dāng)然，這一部分的應(yīng)用與測(cè)試限于篇幅和時(shí)間，今天就不展開了，后續(xù)有時(shí)間我們會(huì)做一些相對(duì)詳細(xì)的文章供大家參考。

▲自主部署ComfyUI

▲自我部署Stable Diffusion

06

開箱即用，你的最佳AI助理

從數(shù)日全場(chǎng)景的實(shí)際體驗(yàn)來看，技嘉AI TOP ATOM真正實(shí)現(xiàn)了桌面級(jí)AI超算的平民化落地，將原本需要專業(yè)技術(shù)團(tuán)隊(duì)耗時(shí)部署且僅能在數(shù)據(jù)中心實(shí)現(xiàn)的千億參數(shù)大模型推理能力，濃縮進(jìn)150mm×150mm×50.5mm的迷你機(jī)身中，更憑借圖形化操作界面實(shí)現(xiàn)了4～5分鐘快速啟動(dòng)模型上手，讓私有化AI服務(wù)器的搭建徹底告別技術(shù)門檻。NVIDIA Grace Blackwell GB10芯片為核心，搭配128GB統(tǒng)一內(nèi)存架構(gòu)，在NVFP4精度下釋放出1000 AI TOPS的強(qiáng)悍算力，不僅能流暢運(yùn)行GLM-4.5-Air 106B這類千億級(jí)大模型，還能支持2路、4路甚至8路(低Tokens輸入)并發(fā)推理，即便在500字長(zhǎng)提示詞下，仍能保持穩(wěn)定的文本生成速度，兼顧了算力表現(xiàn)與實(shí)際使用需求。

而與趨境科技的深度合作，更是讓這款硬件擁有了完整的軟件生態(tài)閉環(huán)：趨境AMaaS管理平臺(tái)實(shí)現(xiàn)了模型、算力、用戶的可視化零代碼運(yùn)維，讓新手用戶也能輕易上手。而趨境智問應(yīng)用平臺(tái)則覆蓋了AI對(duì)話、辦公創(chuàng)作、文檔閱讀、會(huì)議助手等日常工作生活的全場(chǎng)景需求，真正做到硬件算力+軟件應(yīng)用的一體化融合且全圖形化界面的使用也非常簡(jiǎn)單。更重要的是，全本地化的部署模式，讓數(shù)據(jù)在物理層面與云端隔離，從根源上解決了企業(yè)與個(gè)人對(duì)數(shù)據(jù)隱私、信息安全的顧慮，同時(shí)相比傳統(tǒng)云服務(wù)器與大型AI工作站，大幅降低了AI應(yīng)用的落地成本。

對(duì)于AI開發(fā)者、科研人員、小型工作室乃至有私有化AI需求的個(gè)人而言，技嘉AI TOP ATOM早已超越了一臺(tái)桌面AI PC的定位，它是一套低成本、高效率、安全可控的全棧式私有AI基礎(chǔ)設(shè)施解決方案。它讓原本高高在上的AI超算走出數(shù)據(jù)中心，走進(jìn)普通辦公室、研發(fā)小組，讓每個(gè)人都能擁有專屬的私人AI助理，也讓中小企業(yè)無需投入高昂成本，就能快速搭建起自己的AI應(yīng)用體系。在AI本地化、私有化的發(fā)展浪潮中，技嘉AI TOP ATOM無疑為行業(yè)樹立了桌面級(jí)AI硬件的新標(biāo)桿，也為AI技術(shù)的全民化普及，提供了極具參考價(jià)值的落地路徑。哪怕你是徹頭徹尾的新手小白，也能在AI TOP ATOM上愜意地暢游AI世界，或許這就是這款產(chǎn)品在消費(fèi)級(jí)市場(chǎng)上的最大意義與立足之本。當(dāng)AI應(yīng)用、開發(fā)不再是純專業(yè)人士的專屬，那么可以想象到的是——AI落地的未來必然就是一片坦途。

友情提示

MCer請(qǐng)注意，由于微信公眾號(hào)調(diào)整了推薦機(jī)制，如果你發(fā)現(xiàn)最近很難刷到Microcomputer（微型計(jì)算機(jī)）公眾賬號(hào)推送的文章，但是又不想錯(cuò)過微機(jī)的精彩評(píng)測(cè)內(nèi)容，可以動(dòng)動(dòng)小手指把Microcomputer設(shè)置成星標(biāo)公眾賬號(hào)哦！