![]()
如果您正在尋找自己的個人AI超級計算機,英偉達Nvidia可以滿足您的需求。
這家芯片制造商剛剛在CES上宣布,將于5月推出一款名為Project Digits的個人人工智能超級計算機。Project Digit的核心是新的GB10 Grace Blackwell Superchip,它具有足夠的處理能力來運行復雜的人工智能模型,同時又足夠緊湊,可以放在桌子上并從標準電源插座運行(這種處理能力過去常常需要更大、更耗電的系統)。這個系統可以處理多達2000億個參數的AI模型,起價為3000美元。該產品本身看起來很像Mac Mini。
![]()
英偉達首席執行官黃仁勛在新聞稿中表示:“人工智能將成為每個行業每個應用程序的主流。通過數字項目,Grace Blackwell超級芯片將惠及數百萬開發者。”。“將人工智能超級計算機放在每個數據科學家、人工智能研究人員和學生的桌子上,使他們能夠參與并塑造人工智能時代。”。
每個Project Digits系統都配備了128GB的統一連貫內存(相比之下,一臺好的筆記本電腦可能有16GB或32GB的RAM)和高達4TB的NVMe存儲。對于要求更高的應用程序,兩個Project Digits系統可以連接在一起,處理多達4050億個參數的模型(Meta的最佳模型Llama 3.1有4050億參數)。
GB10芯片以FP4精度提供高達1 petaflop的AI性能(這意味著它每秒可以執行1千萬億次AI計算),該系統采用Nvidia最新一代CUDA內核和第五代Tensor內核,通過NVLink-C2C連接到包含20個基于Arm的節能內核的Grace CPU。以基于Arm的芯片設計而聞名的聯發科公司合作開發了GB10,以優化其能效和性能。
![]()
用戶還可以訪問英偉達的人工智能軟件庫,包括通過英偉達NGC目錄提供的開發工具包、編排工具和預先訓練的模型。該系統運行在基于Linux的Nvidia DGX操作系統上,支持PyTorch、Python和Jupyter筆記本等流行框架。開發人員可以使用英偉達NeMo框架對模型進行微調,并使用英偉達RAPID庫加速數據科學工作流程。
用戶可以在Project Digits上本地開發和測試他們的AI模型,然后使用相同的Grace Blackwell架構和英偉達 AI 企業軟件平臺將其部署到云服務或數據中心基礎設施。
Nvidia以相同的可訪問性風格提供了一系列類似的設備——去年12月,它宣布推出一款售價249美元的Jetson計算機,用于人工智能應用程序,面向業余愛好者和初創公司,名為Jetson Orin Nano Super(它可處理多達80億個參數的模型)。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.