用光纖充當緩存？芯片被顛覆了

公眾號記得加星標??，第一時間看推送不會錯過。

未來，光而非硅或許將定義人工智能存儲和調用知識的方式。約翰·卡馬克（John Carmack）——這位因參與《毀滅戰士》（Doom）和Meta虛擬現實項目而聞名的工程師——最近提出了這一想法，他建議使用光纖環路作為人工智能模型的高速數據緩存。他在X論壇上的簡短帖子引發了一場激烈的技術討論，研究人員和技術專家們對經典計算機理論與現代光網絡技術的融合充滿興趣。

這個思想實驗始于一個數字。單模光纖現在可以以每秒 256 太比特的速度傳輸 200 公里的數據。基于這一容量，卡馬克估計，在任何給定時刻，電纜中大約存儲著 32 GB 的信息。

卡馬克建議不要將此視為單純的數據管道，而是將循環本身用作存儲。這種“二級”緩存可以以光速持續循環存儲模型權重。其原理類似于內存（RAM）在硬盤和處理器之間緩沖數據，但延遲幾乎為零，帶寬卻高得多。

這種方法背后的物理原理并不新鮮。評論者很快將卡馬克的推測與延遲線存儲器聯系起來，這是一種20世紀中期的技術，它將信息以脈沖的形式存儲在水銀管中。甚至艾倫·圖靈也曾開玩笑說要用杜松子酒作為介質進行實驗。

盡管早期的系統由于穩定性差和實際應用受限而被棄用，但光纖技術以現代精度重新賦予了這一概念新的生命。與易失性DRAM相比，光具有可預測性、低功耗和巨大的帶寬潛力。

潛在的效率優勢是該方案吸引人的原因之一。動態隨機存取存儲器（DRAM）需要不斷進行電信號刷新以保持比特狀態，這在大規模人工智能服務器中會消耗大量能源。相比之下，光纖只需極少的功率即可維持光信號。

正如卡馬克所觀察到的，光纖傳輸的增長曲線可能比DRAM更有利，尤其是在元件小型化速度放緩的情況下。但他承認存在一個主要障礙——200公里長的高品質光纖成本高昂，而且維持傳輸所需的放大器和數字信號處理器可能會抵消任何節能效果。

這場辯論甚至轉向了推測。埃隆·馬斯克設想了基于真空的光數據傳輸——本質上是在自由空間中進行激光存儲——盡管這個想法目前更像是科幻小說，而非工程方案。

對卡馬克而言，更實際的下一步似乎更腳踏實地：通過直接接口將閃存芯片與人工智能加速器緊密耦合，使模型權重能夠在計算單元之間快速移動，而無需依賴DRAM。這種集成需要半導體制造商和加速器設計者之間的合作，但考慮到人工智能基礎設施領域的巨額投資，沒有人認為這是不可能實現的。

研究團隊已經開始探索使用固態存儲的類似架構。例如，2021 年的 Behemoth 和 FlashNeuron 項目，以及 FlashGNN 項目，都研究了使用 NAND 閃存作為神經網絡的近內存緩存。

最近，增強型內存網格（Augmented Memory Grid）計劃提出了一個開源框架，旨在優化大型模型的鍵值緩存效率。雖然這些系統仍處于實驗階段，但它們表明存儲和內存之間的界限已經開始模糊。

https://www.techspot.com/news/111298-john-carmack-proposes-fiber-optic-loops-high-speed.html

（來源：編譯自techspot）

*免責聲明：本文由作者原創。文章內容系作者個人觀點，半導體行業觀察轉載僅為了傳達一種不同的觀點，不代表半導體行業觀察對該觀點贊同或支持，如果有任何異議，歡迎聯系半導體行業觀察。

今天是《半導體行業觀察》為您分享的第4317期內容，歡迎關注。

加星標??第一時間看推送

求推薦