英偉達宣布推出價值3000美元的個人AI超級計算機Digits

如果您正在尋找自己的個人AI超級計算機，英偉達Nvidia可以滿足您的需求。
這家芯片制造商剛剛在CES上宣布，將于5月推出一款名為Project Digits的個人人工智能超級計算機。Project Digit的核心是新的GB10 Grace Blackwell Superchip，它具有足夠的處理能力來運行復雜的人工智能模型，同時又足夠緊湊，可以放在桌子上并從標準電源插座運行（這種處理能力過去常常需要更大、更耗電的系統）。這個系統可以處理多達2000億個參數的AI模型，起價為3000美元。該產品本身看起來很像Mac Mini。

英偉達首席執行官黃仁勛在新聞稿中表示：“人工智能將成為每個行業每個應用程序的主流。通過數字項目，Grace Blackwell超級芯片將惠及數百萬開發者。”。“將人工智能超級計算機放在每個數據科學家、人工智能研究人員和學生的桌子上，使他們能夠參與并塑造人工智能時代。”。

每個Project Digits系統都配備了128GB的統一連貫內存（相比之下，一臺好的筆記本電腦可能有16GB或32GB的RAM）和高達4TB的NVMe存儲。對于要求更高的應用程序，兩個Project Digits系統可以連接在一起，處理多達4050億個參數的模型（Meta的最佳模型Llama 3.1有4050億參數）。

GB10芯片以FP4精度提供高達1 petaflop的AI性能（這意味著它每秒可以執行1千萬億次AI計算），該系統采用Nvidia最新一代CUDA內核和第五代Tensor內核，通過NVLink-C2C連接到包含20個基于Arm的節能內核的Grace CPU。以基于Arm的芯片設計而聞名的聯發科公司合作開發了GB10，以優化其能效和性能。

用戶還可以訪問英偉達的人工智能軟件庫，包括通過英偉達NGC目錄提供的開發工具包、編排工具和預先訓練的模型。該系統運行在基于Linux的Nvidia DGX操作系統上，支持PyTorch、Python和Jupyter筆記本等流行框架。開發人員可以使用英偉達NeMo框架對模型進行微調，并使用英偉達RAPID庫加速數據科學工作流程。
用戶可以在Project Digits上本地開發和測試他們的AI模型，然后使用相同的Grace Blackwell架構和英偉達 AI 企業軟件平臺將其部署到云服務或數據中心基礎設施。

Nvidia以相同的可訪問性風格提供了一系列類似的設備——去年12月，它宣布推出一款售價249美元的Jetson計算機，用于人工智能應用程序，面向業余愛好者和初創公司，名為Jetson Orin Nano Super（它可處理多達80億個參數的模型）。