轉(zhuǎn)載：真實(shí)大腦的AI替代模型可靠嗎？

封面：Jason Solo

導(dǎo)語

在理論上，人工智能能自己學(xué)習(xí)大腦活動數(shù)據(jù)中的隱藏模式，并告訴我們一個關(guān)于大腦如何運(yùn)作的故事。但這個故事不一定關(guān)于我們的大腦。

關(guān)鍵詞：人工智能，大腦

Bahar Gholipour丨作者

P丨譯者

Soda丨審校

老司橘丨編輯

神經(jīng)現(xiàn)實(shí)（ID：neureality）| 來源

用人工智能解釋大腦，一個虛假故事的開端？| 原標(biāo)題

人們通常將大腦比作一個黑箱，但任何曾窺見其內(nèi)在的神經(jīng)科學(xué)家都知道，這仍舊只是一個輕描淡寫的說法。技術(shù)進(jìn)步正使我們越來越能夠接近神經(jīng)環(huán)路，現(xiàn)在，我們有條件仔細(xì)觀察幾乎任何數(shù)量的神經(jīng)元的活動。然而，大腦的神秘只隨之愈深。如同交響樂般的神經(jīng)元同步發(fā)放，其蘊(yùn)含的意義是什么？神經(jīng)活動如何將光和聲波轉(zhuǎn)化為我們對視覺和聽覺的主觀體驗？神經(jīng)元進(jìn)行什么樣的計算，它們所遵循的廣泛原則又是什么？大腦并不是一個黑箱——它是一個陌生世界，那里的語言和局部法則尚未被破解，而直觀則已然消亡。

人工智能可以為我們解決這個問題嗎？也許吧。但最近的一個認(rèn)識是，即使是我們在人工智能技術(shù)方面已經(jīng)取得巨大成功的最新、最強(qiáng)大的工具，在被用于解碼大腦時也是舉步維艱。誠然，機(jī)器學(xué)習(xí)算法，如人工神經(jīng)網(wǎng)絡(luò)，已經(jīng)為我們解決了許多復(fù)雜的任務(wù)。它們可以預(yù)測天氣和股市，或者識別物體和人臉。而更重要的是，它們不需要我們告知規(guī)則就能做到。至少在理論上，它們應(yīng)該能夠自己學(xué)習(xí)大腦活動數(shù)據(jù)中的隱藏模式，并告訴我們一個關(guān)于大腦如何運(yùn)作的故事。事實(shí)上，它們的確講出了一個故事。只不過，正如一些科學(xué)家所發(fā)現(xiàn)的那樣，這個故事不一定是關(guān)于我們的大腦。

這就是冷泉港實(shí)驗室（Cold Spring Harbor Laboratory）助理教授塔提亞娜·恩格爾（Tatiana Engel）最近在研究大腦決策時發(fā)現(xiàn)的。作為一名物理學(xué)家出身的計算神經(jīng)科學(xué)家，恩格爾致力于開發(fā)能夠幫助解釋我們做決策時的神經(jīng)元活動的數(shù)學(xué)模型。雖然神經(jīng)科學(xué)家們已經(jīng)提出了一些理論，但他們還沒有就決策——即便是最簡單的那些——是如何在大腦中實(shí)現(xiàn)的達(dá)成共識。帶著探索更廣泛的可能性，恩格爾轉(zhuǎn)向了機(jī)器學(xué)習(xí)：她不再從具體的假設(shè)出發(fā)建立神經(jīng)活動的模型，而是從靈活的、可以根據(jù)數(shù)據(jù)自我塑造并自行找出自身參數(shù)的模型出發(fā)。

在這種方法中，評估機(jī)器學(xué)習(xí)產(chǎn)生的模型的標(biāo)準(zhǔn)是它們在多大程度上能預(yù)測一組訓(xùn)練時沒有見過的新的大腦測量結(jié)果。但在這一過程中，恩格爾想知道，我們到底有多確信這一最優(yōu)模型反映了大腦的內(nèi)在邏輯？

“現(xiàn)在，在神經(jīng)科學(xué)以及其他領(lǐng)域，使用這種靈活模型作為了解真正的物理、生物系統(tǒng)的工具的現(xiàn)象越來越普遍了?！倍鞲駹栒f，“像這樣，我們建立一個模型，然后發(fā)現(xiàn)它可以很好地預(yù)測來自某個系統(tǒng)的數(shù)據(jù)。接著我們就會做出這樣一種假設(shè)，即這樣一個模型應(yīng)該是以類似于真實(shí)系統(tǒng)的方式運(yùn)作，因此，通過研究模型如何運(yùn)作，我們就將理解系統(tǒng)如何運(yùn)作。”

團(tuán)隊合作：一位物理學(xué)出身的計算神經(jīng)科學(xué)家，塔提亞娜·恩格爾，與同事米哈伊爾·根金的合照。他們正在開發(fā)數(shù)學(xué)模型以理解神經(jīng)元如何協(xié)作，最后達(dá)成我們的大腦每天每分鐘都會做的決策。丨冷泉港實(shí)驗室

然而，更多時候，這一假設(shè)可能是沒有根據(jù)的。在2020年的一項研究中，恩格爾和她的同事，冷泉港實(shí)驗室的一名博士后，米哈伊爾·根金（Mikhail Genkin）檢查了靈活模型在人工合成的數(shù)據(jù)上的效果，這些數(shù)據(jù)的內(nèi)部動態(tài)是研究人員已知的[1]。他們發(fā)現(xiàn)，反直覺地是，有時最優(yōu)模型反而離反映產(chǎn)生數(shù)據(jù)的原始系統(tǒng)的核心特征最遠(yuǎn)。“它們（模型）可能具有系統(tǒng)中根本不存在的特征或?qū)傩浴！倍鞲駹柋硎荆耙粋€模型可以對數(shù)據(jù)進(jìn)行良好的預(yù)測，同時依舊是錯誤的?！睋Q句話說，預(yù)測能力——機(jī)器學(xué)習(xí)算法的黃金標(biāo)準(zhǔn)——在被應(yīng)用到神經(jīng)科學(xué)時可能是一個誤導(dǎo)性的指標(biāo)。

如果沒有有效的計算模型，科學(xué)家們可能很難有機(jī)會理解海量的大腦數(shù)據(jù)，并解釋大腦的功能如何由神經(jīng)活動產(chǎn)生。使用人工智能幫助大腦建模的前景正備受吹捧，而恩格爾和其他研究人員的發(fā)現(xiàn)可能會讓人覺得是在潑冷水。然而，這些問題并不是無法克服的，恩格爾說。她和其他人已經(jīng)在想辦法避開這些陷阱。他們正在開發(fā)一些方法，這些方法將使他們能夠繼續(xù)使用人工智能的強(qiáng)大工具，而不會對誤導(dǎo)性的敘事信以為真。

在計算層面描述神經(jīng)元行為的嘗試最后總是帶來讓人不得不謙卑的教訓(xùn)，即使是那些成功的嘗試。1952年，阿蘭·霍奇金（Alan Hodgkin）和安德魯·赫胥黎（Andrew Huxley）把神經(jīng)元想象成一個電路，其中被仔細(xì)排布的電阻和電容可以產(chǎn)生類似于神經(jīng)元特征性的峰電位（spike）的電流，而峰電位是大腦中通訊的基本要素。這一模型被證明是一項里程碑式的成就，但要理解其重要性卻遠(yuǎn)不是看著方程式就能直接知道的。當(dāng)赫胥黎花了好幾天時間費(fèi)力地將電壓數(shù)字輸入一個機(jī)械計算器，觀察電路的輸出是否與真正的神經(jīng)元相匹配時，他對這個簡單模型的復(fù)雜行為深感驚嘆?！昂芏鄷r候，我的期望都是錯誤的。”他在十年后的諾貝爾獎演講中回憶說，“我從這些手工計算中得到的一個重要教訓(xùn)是，在試圖研究這種復(fù)雜程度的系統(tǒng)時，一個人的直覺是完全不夠的。"

神經(jīng)科學(xué)家們現(xiàn)在面臨著更高數(shù)量級的復(fù)雜性，因為他們已經(jīng)轉(zhuǎn)向研究活體動物和人身上的神經(jīng)元群體。即使只是來自于100個神經(jīng)元的數(shù)據(jù)，也大得讓人眼花繚亂。它的變化是動態(tài)的，沒有明顯的韻律和緣由。而且，人們很少清楚其中哪些部分與正在被研究的大腦功能真正相關(guān)。這些因素使得我們更難提出概念或者數(shù)學(xué)模型來描述神經(jīng)活動。

更難的是要弄清楚哪一個被提出的模型能解釋關(guān)于神經(jīng)元的一些真實(shí)情況，而哪一個模型又只是幸運(yùn)地正好在數(shù)學(xué)上和數(shù)據(jù)匹配。在不知道大腦的基本規(guī)則的情況下，科學(xué)家們能做的，最多就是看看這些模型相互之間比較起來會是怎樣的。

“這就像我們看到的只有一輛移動的汽車，而我們必須通過對引擎蓋下發(fā)生的事情做出假設(shè)來探明它是如何移動的。”與恩格爾合作研究決策的波士頓大學(xué)神經(jīng)科學(xué)家錢德拉莫里·錢德拉塞卡蘭（Chandramouli Chandrasekaran）說，“然后我們試圖找出，所提出的想法——例如模型A和模型B——中到底是哪一個在匹配我們對汽車運(yùn)動的測量，讓它做得更好?！?/p>

錢德拉塞卡蘭說，盡管這是一種越來越流行的方法，但這種方法仍然可能在重要方面失敗。作為一個在工作中直接接觸大腦測量的、同時做計算和實(shí)驗的研究人員，錢德拉塞卡蘭親身體會到，神經(jīng)活動完全不像一輛平穩(wěn)行駛的汽車——它理所當(dāng)然地太復(fù)雜了，以至于不可能正好被我們只是粗略勾勒的模型所描繪得完全相符?！?strong>實(shí)驗數(shù)據(jù)通常要復(fù)雜并且異質(zhì)得多。這就是它（神經(jīng)活動）的本質(zhì)。它不像你認(rèn)為的那樣簡單和漂亮?！彼f。錢德拉塞卡蘭已經(jīng)在一篇文章[2]中說明，這在實(shí)踐中意味著，神經(jīng)活動的細(xì)微變化有時會導(dǎo)致它被歸類為模型A，而實(shí)際上它遵守的是模型B，反之亦然。這就是為什么對兩個模型進(jìn)行正面的直接比較并不能保證確定模型正確性的原因之一。

最近在決策領(lǐng)域爆發(fā)的一場激烈爭論突出了這些困難。一切始于2015年發(fā)表于《科學(xué)》期刊的一篇論文中的爭議性發(fā)現(xiàn)。該論文比較了兩個模擬大腦如何做出決定的模型，特別是知覺決策（perceptual decisions）[3]。知覺決策涉及大腦對其收到的感覺信息做出判斷：它是紅色還是綠色？它是在向右還是向左移動？這個決定很簡單，但如果你正好被交警攔下，它就可能會帶來嚴(yán)重的后果。為了研究大腦如何做出這些決定，研究人員幾十年來一直在記錄動物體內(nèi)神經(jīng)元群的活動。當(dāng)神經(jīng)元的發(fā)放率被繪制出來并對多次試驗取平均時，它呈現(xiàn)出一種逐漸升高的信號，以“上升”到一個決定。

自20世紀(jì)90年代以來，基于一個有影響力的模型的標(biāo)準(zhǔn)敘事，這一“上升”反映了神經(jīng)元對證據(jù)的逐漸積累。換句話說，這就是神經(jīng)元發(fā)出決策信號的方式：它們在收集支持一種或者另一種選擇的證據(jù)時，會增大自身的發(fā)放率，直到積累下來的證據(jù)使它們的發(fā)放率達(dá)到閾值。然而，那份2015年的研究問道，“上升”是否是對多次試驗進(jìn)行平均造成的一個偽影（artifact）：分析單一試驗的混亂且有限的數(shù)據(jù)要難得多，但在一次試驗中會發(fā)生什么？一個神經(jīng)元的發(fā)放率是真的在持續(xù)上升還是在進(jìn)行離散的跳躍？這一差異可能指向決策背后的不同策略。他們的分析表明，相比起“上升”模型，神經(jīng)元的應(yīng)答更符合跳躍模型。幾年過去后的現(xiàn)在，經(jīng)過許多研究，科學(xué)家們還是沒有一個關(guān)于哪個模型是正確的確切結(jié)論。

而且情況還可能更糟：兩個模型可能都不正確?！叭绻幸粋€C模型呢？或者D呢？”恩格爾說。如果取而代之的是，她可以測試一系列連續(xù)的模型呢？這就是靈活建模最有用的地方，它不會把她限制在少數(shù)幾種情況下。但恩格爾發(fā)現(xiàn)，這種方法也可能選擇出與本質(zhì)上的物理現(xiàn)實(shí)沒有多少共同之處的情景。首先，她必須找到一個解決這個問題的方法。

靈活模型在開發(fā)時考慮的是機(jī)器學(xué)習(xí)的目標(biāo)：對預(yù)測能力進(jìn)行優(yōu)化。通過這種方式，它們可以把從一組數(shù)據(jù)中學(xué)到的東西，應(yīng)用到它們以前沒有見過的新數(shù)據(jù)上。例如，當(dāng)建立一個分類器來區(qū)分貓和狗時，目標(biāo)是在現(xiàn)實(shí)世界中它仍然可以區(qū)分貓和狗。其算法是否使用與我們大腦相同的策略來實(shí)現(xiàn)這一目標(biāo)并不重要。事實(shí)上，在這種情況下，它肯定不是這樣做的。

另一方面，神經(jīng)科學(xué)家則有一個在根本上不同的目標(biāo)：他們不想只是用一個模型擬合數(shù)據(jù)，而是想從數(shù)據(jù)中發(fā)現(xiàn)猜想。他們希望能夠有一個模型能從神經(jīng)活動中學(xué)到如何變得像神經(jīng)元一樣。恩格爾說：“我們不得不放棄這種為預(yù)測而優(yōu)化模型的想法，并想出一種新的方法，將一個不同的目標(biāo)提出來?！?/strong>她和根金一起關(guān)注這樣一個事實(shí)，即在不同的數(shù)據(jù)樣本中，真實(shí)的特征總是相同的，但噪聲是不同的。就這樣，他們開發(fā)了一個新的程式，以允許在不同的數(shù)據(jù)樣本上發(fā)現(xiàn)模型，并提取它們的共同特征。這種新方法識別了生成合成數(shù)據(jù)的正確模型。而當(dāng)應(yīng)用于真實(shí)的大腦數(shù)據(jù)時，它為每個樣本得出了類似的模型，這表明與傳統(tǒng)方法的胡亂猜測不同，這些模型已經(jīng)捕獲了系統(tǒng)的一些真實(shí)特征。

這一解決方案發(fā)表在《自然-機(jī)器智能》上[4]，它將使得靈活模型在其最初的目標(biāo)之上更具有擴(kuò)展性，并對生物科學(xué)更有用處。這不一定能成為每一個用于神經(jīng)科學(xué)的人工智能工具的解決方案，恩格爾說，但它可以改善靈活模型這一被神經(jīng)科學(xué)家廣泛使用的工具的實(shí)際應(yīng)用。

對恩格爾本人來說，這一方法已經(jīng)開始帶來對決策的新見解。該團(tuán)隊正與錢德拉塞卡蘭合作探索他們最初的問題：什么樣的模型能最好地描述決策過程中的神經(jīng)活動？到目前為止，他們所看到的既不是“上升”也不是“跳躍”。他們的發(fā)現(xiàn)會解決這個爭論嗎？抑或開啟下一回合的爭論？但愿我們很快就會知道。

參考文獻(xiàn)

[1] Genkin, M. & Engel, T.A. Moving beyond generalization to accurate interpretation of flexible models. Nature Machine Intelligence 2, 674-683 (2020).

[2] Chandrasekaran, C., et al. Brittleness in model selection analysis of single neuron firing rates. BioRxiv (2018). Retrieved from DOI:10.1101/430710.

[3] Latimer, K.W., Yates, J.L., Meister, M.L.R., Huk, A.C., & Pillow, J.W. Single-trial spike trains in parietal cortex reveal discrete steps during decision-making. Science 349, 184-187 (2015).

[4] Genkin, Mikhail, and Tatiana A. Engel. "Moving beyond generalization to accurate interpretation of flexible models." Nature Machine Intelligence 2.11 (2020): 674-683.

原文：https://nautil.us/ai-is-helping-scientists-explain-the-brain-14073/

本文來自微信公眾號“神經(jīng)現(xiàn)實(shí)”，歡迎關(guān)注。

計算神經(jīng)科學(xué)第三季讀書會

從單個神經(jīng)元的放電到全腦范圍的意識涌現(xiàn)，理解智能的本質(zhì)與演化始終是一個關(guān)于尺度的問題。更值得深思的是，無論是微觀的突觸可塑性、介觀的皮層模塊自組織，還是宏觀的全局信息廣播，不同尺度的動力學(xué)過程都在共同塑造著認(rèn)知與意識。這說明，對心智的研究從最初就必須直面一個核心挑戰(zhàn)：局部的神經(jīng)活動如何整合為統(tǒng)一的體驗？局域的網(wǎng)絡(luò)連接又如何支撐靈活的智能行為？

繼「」與「」讀書會后，集智俱樂部聯(lián)合來自數(shù)學(xué)、物理學(xué)、生物學(xué)、神經(jīng)科學(xué)和計算機(jī)的一線研究者共同發(fā)起，跨越微觀、介觀與宏觀的視角，探索意識與智能的跨尺度計算、演化與涌現(xiàn)。重點(diǎn)探討物理規(guī)律與人工智能如何幫助我們認(rèn)識神經(jīng)動力學(xué)，以及神經(jīng)活動跨尺度的計算與演化如何構(gòu)建微觀與宏觀、結(jié)構(gòu)與功能之間的橋梁。

詳情請見：

1.

2.

3.

4.

5.

6.

7.