Nat. Mach. Intell.：未訓練卷積網絡，竟然更像靈長類大腦視覺皮層

PsyBrain 腦心前沿 | 公眾號 PSY-Brain_Frontier

一鍵關注，點亮星標 ??

不錯過每日前沿資訊

認知神經科學前沿文獻分享

基本信息：

Title:Structure as an inductive bias for brain–model alignment

發表時間：12.4

Journal:Nature Machine Intelligence（News & Views）

影響因子：23.9

獲取原文：

1. 添加小助手:PSY-Brain-Frontier即可獲取PDF版本

引言

當我們拿起手機刷短視頻時，眼睛只是在接收光線，但大腦和算法模型會在背后飛快地“解碼”：這是貓還是狗？是自拍還是風景？在人工智能里，卷積神經網絡（convolutional neural network, CNN）長期被視為“最像視覺皮層”的架構，而近幾年崛起的Vision Transformer（ViT）、MLP-Mixer等新模型，則靠著驚艷的性能不斷挑戰這個地位。問題來了：

到底是誰更像大腦？是架構本身，還是后天用海量數據“喂”出來的表示？

傳統觀點認為，只要給模型足夠多的圖像和標簽，訓練好之后，不論是 CNN 還是 ViT，內部表征都會與靈長類視覺皮層有不錯的一致性。但這篇 News & Views 解讀的 Kazemian 等人的工作提出了一個“更挑釁”的問題：

如果我們干脆不訓練，只保留隨機初始化的網絡結構，哪種架構天生更接近大腦？

作者抓住了一個神經科學中非常經典、但在工程上容易被忽略的現象：從視網膜到大腦皮層，信息維度是“猛烈擴張”的——大約一百萬個視網膜神經節細胞的信號，要被鋪展到數十億個皮層神經元中去，這種“維度擴張（dimensionality expansion）”被認為是大腦支持豐富表征能力的關鍵。Kazemian 等人于是把這條生物學線索“移植”到人工網絡里：在不訓練任何參數的前提下，他們系統地比較 CNN、全連接網絡（fully connected network）和 transformer，在最后一層人為增加輸出特征的數量，看誰最能預測猴和人的視覺腦響應。

Fig. 1 | Comparing untrained network architectures and the principle of dimensionality expansion.

這聽起來有點像給幾個剛出廠、沒上過學的小機器人，同樣看一堆圖片，再問：誰對大腦信號的“直覺”最好？如果答案是 CNN，那么它“像大腦”就不只是因為被大數據調教得好，而是因為架構結構本身就帶著強烈的歸納偏好（inductive bias）。

這篇 News & Views 文章在簡要介紹實驗結果的同時，還把它放回更大的 NeuroAI 版圖：從無限寬度網絡對應的高斯過程（Gaussian process）理論，到隨機 CNN 中天生出現的“人臉單元”，再到我們該如何更謹慎地使用線性回歸來衡量“腦–模型對齊”。

核心發現

1. 未訓練 CNN 的結構，就已經比 ViT 更“腦對齊”

最直接的結果是：在維度相同、參數規模對齊的前提下，五層的未訓練 CNN 在各個輸出維度上都穩定優于未訓練的 Vision Transformer 和多層感知機（MLP）。隨著最后一層特征數從較小逐步擴展到近百萬維，三類模型的腦預測性能都在緩慢上升，但 CNN 的提升幅度最大，甚至逼近經典預訓練模型 AlexNet 的水平，而 ViT 和 MLP 的收益有限。News & Views 中 Fig.1 右側通過“預測響應 vs 實際響應”的相關性示意，直觀傳達了這種架構差異：相同線性讀出、相同數據集下，只有 CNN 在“結構 + 維度擴張”的組合中，真正激活出了與皮層更對齊的隨機特征空間。

2. 維度擴張：把視網膜的“生物學竅門”搬進隨機網絡

這項研究的另一條主線，是把神經系統中的維度擴張原則與深度網絡的架構設計對應起來：從視網膜到枕葉皮層，信號經歷了空間上的壓縮和特征維度上的指數級擴張，而 CNN 中的池化（pooling）與通道數（channels）變化，正好實現了類似的“空間壓縮 + 特征擴張”的組合。原文中多組曲線圖展示：在不改變前面層結構的情況下，單純增加 CNN 最后一層的特征數量，就能顯著提高對猴子和人類視覺皮層的預測性能；而對 ViT 或全連接網絡做同樣的維度擴張，收益卻非常有限。這說明，維度擴張不是萬能藥，只有放在卷積這種更接近生物視覺幾何約束的架構里，才能真正轉化為“腦對齊”的增益。

3. 隨機網絡中的“先天表征”與隨機彩票假說

News & Views 把 Kazemian 等人的結果，與一系列“隨機 CNN 的奇妙能力”串聯起來：早期經典工作已經發現，V1 皮層部分神經元在視覺經驗出現之前就具有方向選擇性；相對應地，未經訓練的 CNN 中也會自然冒出對人臉或特定物體類別選擇性的單元，這被稱為“隨機彩票（random lottery）假說”——即隨機初始化時就暗含著一批幸運的、接近真實任務需求的特征通道。 Kazemian 等人的結果進一步表明：當我們在 CNN 中加入模擬大腦的維度擴張，這些“先天表征”就有了一個更大、更合適的特征舞臺，能夠在不依賴大規模訓練的情況下，與靈長類視覺皮層的活動模式形成更高的一致性。這提示我們：追求生物學真實的神經網絡模型，不能只看訓練終點，更要關心“隨機起點”的結構特性。

4. 線性讀出不是萬能：腦–模型對齊指標本身也需要“對齊”

文章最后提出了一個很重要、卻常被忽略的警告：我們今天衡量“腦–模型對齊”的主流方法——線性回歸讀出，本身可能是一個“過于強大”的放大鏡。由于帶正則化的線性讀出可以在高維空間中自由重組特征，它有時能把本質上截然不同的表示“擠”到類似的預測精度上，從而讓許多并不真正腦樣的模型，看起來也同樣“brain-like”。News & Views 呼吁，未來的工作需要給這些讀出增加更多約束（例如稀疏性、權重非負等），或者直接分析回歸權重的分布模式，去區分“由少量關鍵特征驅動”的真實對齊，和“由大量不相關特征湊出來”的偽對齊。再往前一步，作者指出：在無限寬度極限下，隨機網絡等價于高斯過程，其核函數直接由架構決定，而這些核在神經科學里正好可以視作表征相似性矩陣——這為從理論上推導“腦對齊核”打開了新路。

歸納總結和點評

綜合來看，這篇 News & Views 通過解讀 Kazemian 等人的工作，給 NeuroAI 社區傳遞了幾個清晰的信息：

第一，卷積結構本身就蘊含著強烈的生物學歸納偏好，即便在完全未訓練狀態下，只要配合類似視網膜到皮層的維度擴張，就能逼近經典任務驅動網絡的腦預測水平；

第二，大腦和模型的相似性不能只從終點表現看，更要從結構先驗和隨機狀態出發；

第三，腦–模型對齊的評估工具需要被同樣嚴肅地審視與約束，否則容易被線性讀出“帶偏”。

在大模型架構百花齊放的今天，這篇文章提醒我們：真正“像大腦”的模型，未必是參數最多或最難訓練的那個，而是結構和生物學約束最“對味”的那個——這對未來設計更可解釋、更高效的視覺模型和腦機接口，都有重要啟示。

AI 一句話銳評

在一切都想靠“更多數據、更大模型”取勝的時代，這項工作冷靜地補了一刀：也許最接近大腦的那一步，不在訓練集里，而藏在我們一開始如何寫下那幾行“卷積 + 池化 + 維度擴張”的架構代碼中。

前沿交流|歡迎加入認知神經科學前沿交流群！

核心圖表、方法細節、統計結果與討論見原文及其拓展數據。

分享人：BQ

審核：PsyBrain 腦心前沿編輯部