魚羊 發自 凹非寺
量子位 | 公眾號 QbitAI4
爆火神經網絡架構KAN一作,畢業新去向已獲清華官網認證:
劉子鳴,擬于今年9月加入清華大學人工智能學院,任助理教授。
![]()
KAN的初版論文發表于2024年4月,一經發布,即以優于多層感知機(MLP)的準確性和可解釋性,成為當時的學術界熱議話題。其GitHub倉庫,在短短兩三天內就收獲了1.1k星星。
正如論文中所提到,大家關注的重點在于:
- KANs是MLPs的有力替代方案,為進一步改進目前重度依賴MLPs的深度學習模型提供了新的契機。
![]()
劉子鳴的這一教職其實早前就已敲定。從他本人在2025年5月發布的招生文章來看,他的首批博士生招生目前已經完成。
KAN一作回國任教
劉子鳴,武漢人,是武鋼三中校友。
他從初中起就是競賽生,高中投身物理競賽,在2015年以全國第8名的成績入選物理國家集訓隊,并被保送至北大物理學院。
本科期間,劉子鳴就關注到了物理學和機器學習的交叉領域,并有一作文章發表在European Physical Journal C、Physical Review C等刊物和NeurIPS 2020等學術會議上。
本科畢業后,劉子鳴赴MIT攻讀物理博士學位,師從物理學家Max Tegmark——這位物理學教授最初是一名宇宙學家,后將研究重心轉向了人工智能。
KAN正是劉子鳴和Max Tegmark合作的成果。劉子鳴在Max Tegmark指導下,致力于提升神經網絡的可解釋性,KAN(Kolmogorov-Arnold Networks)的初始靈感,就是想從Kolmogorov-Arnold這個數學定理出發,打開神經網絡“黑盒”。
具體來說,Kolmogorov-Arnold定理的核心是:任何定義在有界域上的多元連續函數,都能表示為有限個單變量連續函數的兩層嵌套疊加形式。
這為KAN的誕生提供了一個思路:將復雜高維函數學習轉化為一組單變量函數的學習。
也就是說,KAN完全無需線性權重:MLP在節點上使用固定激活函數,而KAN則可將學習的激活函數置于邊(權重)上,每條邊的線性權重被單變量函數替代。
![]()
這種設計下,網絡中各變量的作用路徑都可以被直觀地觀察到,使得KAN具備MLP無法提供的可解釋性和交互性。
論文發布后迅速引發了強烈的反響。Google Scholar顯示,到現在,KAN的引用量已經達到3000+。
![]()
2024年8月,劉子鳴和合作者們又發表了KAN 2.0,以進一步提高KAN的實用性和易用性。
劉子鳴本人將KAN解讀為三個層面的AI+Science:
- Science for AI:原理來自于數學;
- Science of AI:澄清了一些關于Neural Scaling Law的現象;
- AI for Science:依靠KAN,能夠發現科學和工程問題中的符號公式。
而這也正是他的研究方向。
![]()
2025年5月份,劉子鳴在社交媒體上更新了自己獲得清華教職的消息。在招生文章中,他還說明了自己的研究風格:
- 1.好奇心驅動(覺得好玩)和影響力驅動(也追熱點,但更追求長期影響力)。理想情況,希望研究既有科學上的啟發,也能有影響力。比如KAN就是這樣的一個例子,我們希望從科學的角度想象AI的更多可能性。
2.理論和實驗結合。理論是物理的嚴格程度,可能會被數學家噴不嚴謹哈哈。實驗更多的是闡釋現象,而不是無腦刷SOTA。實驗告訴我們什么樣的理論可能有用的,而理論指導我們如何去設計實驗。
3.研究問題的層次通常介于純理論和純應用之間的中間抽象層。抽象的好處是對不同的問題有很強的通用性,但需要抽象本身是高質量的、對實踐有用的。所以我會和應用組(具體的科學領域)進行合作,去理解如何進行更好的抽象來貼近應用。
目前,劉子鳴在斯坦福從事博士后研究,合作導師是Andreas Tolias。
One More Thing
說起來,劉子鳴也并沒有放下從高中起就投身的物理學。
他現在每天更新的博客,名為“physics of AI”,意為用研究物理學的方式來研究AI,旨在回答:什么樣的模型,在什么樣的數據上,展現出什么樣的現象。
“關鍵在于‘大量小見解’,而非寄希望于‘少數大發現’。”
![]()
△圖源:劉子鳴博客
從2025年12月31日起,劉子鳴每天都在更新博客內容,用他自己的話說是:
- 每天只需投入2小時,我就能通過玩具模型(toy models)了解到關于神經網絡的驚人事實。許多見解最終可能微不足道或無關緊要,但其中一些將會產生足以改變領域現狀的巨大影響。
![]()
參考鏈接:
[1]https://collegeai.tsinghua.edu.cn/rydw/qzpi/liuziming.htm
[2]https://zhuanlan.zhihu.com/p/1907988943389045778
[3]https://kindxiaoming.github.io/
— 完 —
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.