<cite id="ffb66"></cite><cite id="ffb66"><track id="ffb66"></track></cite>
      <legend id="ffb66"><li id="ffb66"></li></legend>
      色婷婷久,激情色播,久久久无码专区,亚洲中文字幕av,国产成人A片,av无码免费,精品久久国产,99视频精品3
      網易首頁 > 網易號 > 正文 申請入駐

      科幻洞察|如何用“時間的本質”,丈量人腦、意識與人工智能?

      0
      分享至



      時間究竟是什么?是宇宙中不可動搖的維度,還是我們大腦創造出的主觀體驗?

      在物理學中,時間常被描述為一個靜態的維度,過去、現在和未來在“塊狀宇宙”中同時存在,時間的流逝不過是人類意識的幻覺。然而,在神經科學的視角中,時間卻是動態的、不可分割的,是塑造記憶、感知和行為的核心力量。

      “物理學和神經科學之間存在著一種持續的張力,喜歡相互攻訐。神經科學家常會說,如果物理學告訴你時間并不流動,那一定是物理學出了問題。”加州大學洛杉磯分校神經科學家迪恩·布奧諾馬諾(Dean Buonomano)如此形象地描述了兩種時間觀之間的分歧。

      然而,這種分歧有何而來?兩者是否真的無法調和?一直以來,布奧諾馬諾通過與物理學家卡洛·羅韋利(Carlo Rovelli)合作,試圖在這兩種視角之間尋找共識。在最近的一場對談中,布奧諾馬諾與卡內基梅隆大學的保羅·米德布魯克斯(Paul Middlebrooks)深入探討了這些問題。

      從神經科學對時間的研究,到人工智能如何理解時間和因果,再到時間觀念對意識理論的影響,他們嘗試從不同的學科視角為這些復雜的問題提供答案。這場討論為我們重新思考時間的本質,以及時間對于理解智能與宇宙萬物的啟發。


      保羅·米德布魯克斯

      Paul Middlebrooks

      卡內基梅隆大學助理研究員,播客“Brain Inspired”主理人

      他在匹茲堡大學馬克·索默實驗室獲得認知神經科學博士學位。隨后在范德堡大學Jeffrey Schall, Geoff Woodman, and Gordon Logan實驗室從事博士后研究,研究運動皮層和基底神經節神經群活動如何影響自由行為小鼠的自然行為。


      迪恩·布奧諾馬諾

      Dean Buonomano

      神經科學家、作者

      加州大學洛杉磯分校(UCLA)教授,研究領域為計算神經科學和大腦的時間意識。主要作品有《腦蟲:大腦的缺陷如何塑造我們的生活》、《你的大腦是時間機器》等。

      目錄:

      01 人工智能忽視了腦科學嗎?

      02 物理學“時間” vs.神經科學“時間”

      03 為何說整合信息論“不科學”?

      04 器官型切片與傳統腦切片有何不同?

      05 大腦可以感知時間嗎?

      06 人工智能需要感知時間嗎?

      07 譯者后記


      人工智能忽視了腦科學嗎?

      保羅·米德布魯克斯今天的第一個問題,讓我們從人工智能開始聊起。今年初,你發表過一篇推文《大腦并不是創造智能的唯一方式》(The brain holds no exclusive rights on how to create intelligence),這篇文章讀起來略顯悲觀。你提到,人工智能忽視了大腦的動態特性以及腦科學進展,且這種趨勢未來有增無減。這是否意味著人工智能的發展已經偏離了神經科學的軌道?

      迪恩·布奧諾馬諾:是的,我想我可以做一些補充。

      首先,人工智能和神經科學自誕生之初起就一直是姊妹領域。我從未以任何方式暗示過人工智能忽視了神經科學。事實上,人工智能的基礎正是神經科學的一些基本原理。比如,神經科學認為,信息和記憶存儲依賴于突觸連接的強度及其維持,而學習依賴于突觸連接強度的變化。這一點也是所有基于人工神經網絡的人工智能的核心。

      從卷積神經網絡到正則化(體現了某種穩態可塑性特征),再到神經網絡隨機失活(dropout,類似于突觸失效),以及卷積神經網絡基于V1架構而設計等方面,這些顯然都受到了神經科學的啟發,人工智能和神經科學之間的關系非常密切。當馮·諾依曼寫下我們現在稱之為“數字計算機”或“馮·諾依曼計算機”的第一批架構的第一個代碼時,他也是受到了大腦的啟發。然而,計算機科學和神經科學的分化也非常迅速。

      我認為,現在我們正處于一個分水嶺——人工智能和神經科學的聯系正在逐漸削弱。

      在2010年左右,當人工智能開始認真處理語音識別、動作識別以及與世界交互等問題時,循環神經網絡(RNN)被認為是未來的發展方向,它模仿了大腦感知時間的方式,并具有自己的內部動態。

      然而,2017年Transformer架構的出現改變了一切。那篇論文《注意力就是你所需要的一切》(Attention is All you Need)提出了一種全新的方法,使領域迅速從RNN方法轉向了Transformer。對我來說,Transformer最令人驚嘆的地方在于,它無需感知時間,卻仍能在許多任務上表現出色。

      Transformer無關時間,但它能分辨順序和時序。比如,它可以區分“我是”和“我是嗎”之間的差別。它是如何做到的?答案是通過“位置編碼”。Transformer不是先處理“我”,然后再處理“是”,而是同時并行處理“我是”或“我是嗎”,,并通過位置編碼標記詞元的位置。例如,“我”被標記為第一個詞元,“是”被標記為第二個詞元。這樣,雖然它不感知時間,但它仍然能理解順序。

      例如,如果你在ChatGPT里輸入“等10秒鐘再告訴我法國的首都”。它不會忠實地執行,而是立即回復“OK”,給出答案,沒有等待。當然,如果你使用了合適的提示詞,它可能會調用Python編譯器,實現等待10秒鐘再回答。

      保羅·米德布魯克斯:位置編碼本身并不利用時間,而是利用時序的位置。你對此的態度是悲觀還是樂觀,或者你只是指出這種情況可能會持續下去——你從中得出什么結論呢?

      迪恩·布奧諾馬諾:我認為,這是對“人工智能只有在神經科學的指導下才會邁出下一步”這種觀點的回應。我對此持中立態度,屬于不可知論。在某些方面,NeuroAI的觀點有一定道理:為了達到更高的智能水平,人工智能或許確實需要神經科學的支撐。然而,正如剛才所說的,過去十年人工智能的進步令人驚嘆,而它并沒有嚴格遵循神經科學的基本原理,就如時間的連續性或大腦動態處理時序等。

      順便說一下,我可能不太喜歡用“sequence”這個詞,因為它往往暗含著時間。我更傾向于用“ordinality”這個詞,它只表示第一、第二和第三的順序……這里的術語非常模糊,確實會造成一些混淆。


      ?Joey Guidone

      保羅·米德布魯克斯:你一直用“進步”(progress)這個詞來形容人工智能領域的成就。我們如何定義“進步“?又是如何定義通用型人工智能”(AGI),AGI與奇點的區別是什么?

      迪恩·布奧諾馬諾:有些人所謂的進步,可能是其他人的倒退,這取決于你最終是追求通用人工智能(AGI)還是奇點。

      諷刺的是,AGI指的就是通用型人工智能。別管它是什么了,直接定義為“智能”(intelligence)就好。事實上,智能的成因目前尚無定論。而不定義智能就談論它,其實并不明智,雖然很多領域都是如此——無論是意識領域還是自由意志領域,甚至是基因的含義,我們有時不得不處理一些定義不明確的抽象概念。AGI的定義不明確,但智能本身也同樣不明確。人類聰明嗎?這個標準是高還是低?人類智力的標準非常低。


      物理學與神經科學中的“時間”

      保羅·米德布魯克斯:對此我們觀點一致,下面讓我們來聊聊物理學和神經科學對時間的不同理解。也許我們可以從你和物理學家的合作這點開始。

      迪恩·布奧諾馬諾:剛才我們討論了Transformers,這可能是一個很好的引子。在Transformers中,過去和現在同時存在,因為你同時把整段內容“并行地”輸入到Transformers中。這與我同身為物理學家的Carlo Rovelli討論時間本質時的兩種觀點,略有相似之處。

      在Carlo和我合作的這篇《連接神經科學與物理學的時間》(Bridging the neuroscience and physics of time)的文章中,我們試圖彌合哲學、物理學和神經科學中關于時間本質的兩種觀點:

      一種是“現在主義”,這是我們作為神經科學家的直覺觀點:現在是真實的;過去曾經是真實的,但它在此刻不再真實,我們對過去的記憶僅僅是大腦中殘存的印象;而未來尚未成為真實。

      另一種是“永恒主義”,或塊狀宇宙(block universe)觀,甚至更極端的“靜態永恒主義”。這種觀點認為宇宙是一個四維的塊狀宇宙,在某種意義上,時間已經消逝(transpired)。所有時間,過去、現在和未來,都同樣真實。一種方便的比喻是,“現在”之于時間,就像“這里”之于空間;正如我們接受自己處于某個“這里”,但也承認其他位置會變成“這里”。

      在現在主義中,我們不接受其他的“現在”的可能性。而在永恒主義中,所有現在都同樣有效。

      Transformers在很大程度上體現了“永恒主義”或“塊狀宇宙”的觀點——過去和現在同時存在。而RNN則不同,它更接近“現在主義”,是逐步處理信息的。


      ?塊狀宇宙。圖源:Scientific Diagram

      保羅·米德布魯克斯:我總是把塊狀宇宙想象成一塊蠟,可以把它切成任意薄片,每一片都代表一個時間點,然后可以訪問不同的切片。我很想聽聽你是如何與Carlo Rovelli合作的。我不知道你們之前是否認識,你們的合作是怎么發生的?是哲學把你們聯系在一起的嗎?

      迪恩·布奧諾馬諾:是的,絕對是。我和Carlo一起參加了幾次關于時間的會議,還有幾次關于時間的哲學研討會。物理學和神經科學之間一直有著張力,我們喜歡互相攻訐。神經科學家喜歡說:“聽著,我們生活在一個現在主義的宇宙中,時間在流動,時間在變化,如果物理學告訴你不是這樣,那物理學一定是哪里出了錯”。這里我稍微夸張了些。

      而有些物理學家認為,時間的流動是一種思維的幻覺,他們會反駁:“聽著,你們神經科學家,反而應該弄清楚為什么我們會有這種時間流動的幻覺,因為它根本不存在”。部分物理學家(不是全部),把永恒主義視為理所當然的教義,因此很難想象時間如何流動,為什么神經科學家會有這種主觀的時間流動感。

      這里我一分為二地看待這個問題。“時間是靜態的”,這對大多數神經科學家來說非常違反直覺。那為什么物理學家會持有這種觀點?有幾個原因。一是物理學中的許多方程都是時間可逆的,你既可以用它正向預測未來,也可以拿它們來反向追溯過去。這種時間對稱性與相對論無關,盡管相對論方程當然是時間可逆的。

      在相對論中,時間和空間是一種權衡,而存在一個叫做“閔可夫斯基空間”的概念,它表明時間和空間可以統一為一個四維的整體。這個空間最好的可視化方法是:如果沒有絕對的“現在”,那么你以一個速度運動,我以另一個速度運動,我們的時鐘就會以不同的速度運行。回到“蠟塊”的比喻,想象我們所有人都在一個蠟塊里,如果我們以不同的角度(正交或對角)切割它,就會發現我們可能分別處于不同的“同時性平面”上——這表明了時間的空間化。

      保羅·米德布魯克斯:所以在這個問題上,無論是神經科學還是物理學,哪方都沒有強有力的證據支持。這些都是基礎的開放問題。這個問題的關鍵在于,我們對時間流逝的主觀體驗。


      ?西班牙超現實主義畫家薩爾瓦多·達利對時間的詮釋。圖源:imuseum

      在我們人類所處的中觀時間尺度上,神經科學家持有現在主義的觀點是可以接受的,因為這是我們所能研究的全部范圍,我們的時間感是基于中觀世界的有限經驗。而物理學家對于時間的哲學理解,則超出了我們的認識論范疇,因為我們無法直接測量或觀察到那個尺度上的現象

      迪恩·布奧諾馬諾:當然,我們生活在中觀尺度上,相對論速度或量子現象并不存在于我們的日常生活中。這解釋了為什么我們的直覺在理解這些現象時會出錯。我們對“現在主義”的理解是中觀世界的產物,我不認為這是一種錯覺,因為塊狀宇宙正是在那個時間尺度上運行的。塊狀宇宙與時間尺度無關。

      我不想從中發散出太多結論,我認為這正是問題的一部分。與黑洞附近的引力或相對論速度下的時間不同,時間的流動應該在所有尺度上發生。我的觀點是,由于大腦進化是為了理解我們所生活的宇宙、我們的中觀宇宙與世界,而它們都受物理定律的支配,因此我們看到時間流動也是現實的一部分。

      保羅·米德布魯克斯:它受近似牛頓物理學的支配,這就是我們生活的世界。那么我們的時間感也是如此,對嗎?

      迪恩·布奧諾馬諾:是的,這就是我們的物理感,也是我們的時間感。但即使在塊狀宇宙觀中,時間感也適用于中觀尺度。我想說,我們對時間的感知,并非僅限于我們生活的這個以中觀尺度運作的世界。

      我們提出,我們感知到了時間,但在這一點上我和Carlo存在分歧。我認為,我們感知到時間是因為它確實在流動。需要明確的是,這與物理定律絕對不矛盾。物理定律允許現在主義,也允許永恒主義,前提是局部現在主義,而不是牛頓式的絕對時間。

      我們這些異常聰明的猿類,確實沒有能力真正弄清楚這些定律,無論是在量子尺度還是宇宙尺度上。假設我們不是生活在黑洞或對撞機旁邊,這些定律的表現穩定。我不知道你們為什么不相信定律。

      保羅·米德布魯克斯:對。我認為我現在對定律的理解已經和以前不一樣了。也許這樣說才對。我記得Yael Niv(雅爾·尼夫)說過,數學的美妙之處在于,“你可以設計實驗去驗證它,你可以做數學運算,進行各種數學運算,可以把這些數學運算用到不同的東西上,它都能有效。這就是數學的美妙之處”。我喜歡這個說法,我想這正體現了“規律”之所在。

      迪恩·布奧諾馬諾:大腦充滿了認知偏見,我們會做出錯誤的決定。

      大腦進化,并非為了滿足我們的智力意愿,其目的顯然不是為了理解物理定律或意識的本質,更不是為了理解心智。

      對我來說,數學是迄今為止發明的最好的智力工具。或許有一天,會有人提出一組描述抽象事物的方程式,無論是一般運動還是量子物理中的薛定諤方程,這些方程式盡管復雜,但如果運用得當,我們就能預測周圍的世界。是的,我認為這些方程式是我們理解這些定律的工具。

      需要說明,我根本不是柏拉圖主義者。我不認為它們反映了宇宙中存在的實體。

      數學并不完美。數學在某些配置下可以是完美的。數學可以捕捉真理,但也存在很多糟糕的數學。有些東西你可以用數學來記錄。那只是應用數學。同樣,數學在反映現實方面可能并不特別準確。數學有時能捕捉到宇宙運作的方程,有時則不能。


      為何說整合信息論“不科學”?

      保羅·米德布魯克斯:現在可以談談整合信息論(Integrated Information Theory,IIT)嗎?一大群學者認為IIT是偽科學。您最近寫了一篇文章,詳細闡述了為什么您認為它是不科學。能否請你解釋一下,IIT是什么,以及它為什么不科學,卻能做出預測。

      迪恩·布奧諾馬諾:我認為,理解為什么一百人簽署了一封擔憂IIT不科學的公開信,比討論“是否是偽科學”的措辭更有意義。首先,我先聲明幾點。與其說形成了一個IIT關注聯盟,這或許更應該被看作是一群人聚集起來而已。而他們竟然聚集了一百個人來簽署某個文件,我認為這才是人們應該反思的事情,而不是去思考它為什么會出現。另外,我不能代表這個群體發言,我只能分享我的觀點,僅此而已——我絕不以任何方式、立場或形式代表任何群體。

      回過頭來聊聊你問的問題。COGITATE項目正在收集數據,未來會將高質量的數據開源,這總歸都是好事,我想這一點大家都會認同。而我對IIT的所有擔憂都與COGITATE項目無關,只與IIT和物理定律有關。

      我認為人們需要理解這一點(很多人對此存在誤解):IIT并非神經科學理論,而是一種基礎物理理論。它就宇宙的結構和屬性提出了一種新的本體論,認為某些物質結構具有意識。這就是為什么有些人認為它是一種泛靈論。在IIT理論下,許多形式的物質,無論是否屬于神經類型,都可以具有意識。這就是我在這里要關注物理定律的第一原因。

      我之所以認為IIT不科學,最簡潔的解釋是:新的物理定律必須整合到現有定律中,否則,你將得到的就是一個自由浮動、脫節、未整合的規則或定律,既無法對其進行可靠性檢驗,也不知道它是否與現有定律相符。物理學就像一個未完成的美麗拼圖,包含了許多碎片。你不能隨意地拼湊新的碎片,而不與現有的碎片整合,因為那樣你就不知道自己是否違反了已有其它碎片的規律。

      因此,我認為在不整合現有定律的情況下就制定全新的定律,不符合正常的科學方法。需要結合舊定律才能知道是否存在違規行為。在我看來(只是我個人的看法),“是的,我確實認為IIT可能違反了某些物理定律。”

      真正的關鍵在于,它就像一個孤島——IIT雖有“整合信息”之義,但諷刺的是它與其他科學領域卻沒有整合。IIT通常被描述為具有內在因果性的系統,而“內在因果性”這三個詞在直觀上的含義上并不一定能讓人一眼就看出。

      我盡力用一個真實的例子來解釋。由于IIT并非神經科學理論,它不需要神經元,我們可以用邏輯門系統來解釋。

      假設有兩個邏輯門A和B,它們是簡單的復制門或閾值門,狀態要么開(1)要么關(0),接收0就輸出0,接收1就輸出1,僅此而已。

      IIT要求,系統的當前狀態需包含關于過去和未來狀態的信息。現實中,這涉及許多復雜概念,如分區、子網絡、通道、機制等等,但在這個由A和B組成的簡單系統中,只需思考一個問題:如果B當前是1,這是否限制了系統的過去?答案是肯定的,因為如果B現在是1,那么A在上一個時程就必須是1,這是B變為1的唯一原因。

      這就意味著,這個系統有可能具有意識,它可能擁有一個正的φ值(IIT用來衡量意識的指標)。但我們還必須考慮未來:B是否對未來有任何限制嗎?答案是否定的,因為B的狀態不會回饋到自身或A。

      換句話說,這個系統對未來沒有任何約束力。它的行為與隨機狀態相比并沒有額外的信息,也無法預測未來,就像你剛才提到的那樣。

      這里,神經科學家可能會問:“你所說的過去和未來具體指什么?是過去和未來的某個時間點?”這是IIT的難題,因為它有時要求我們查看某個范圍內過去和未來的所有的時間點。它是離散的。對于計算機來說,這種離散的時間步長是清晰的,因為計算機的時間是明確劃分的。但對于大腦來說,情況并非如此,這可能會引發一些問題。

      現在,如果我們將B重新連接到A,就形成了一個循環神經網絡。如此連接確實會讓B的狀態開始影響未來,并限制未來可能發生的事情。這樣一來,系統就表現出了一定的意識。通過增加這個連接,系統的意識phi值變成了1。

      接下來,我們可以嘗試做一個思想實驗來進一步理解這一點。IIT的一個特點是,它與空間和時間無關。如果我們將系統中的兩個單元分開,并拉大其間的距離,這種分離實際上并不會改變系統的意識狀態。只要連接保持良好,系統就一直是有意識的。甚至,即使兩個單元都處于關閉狀態(值均為0),系統仍然是有意識的。


      假設我們進一步改變系統的狀態,把兩個單元取出,剪斷它們之間的電線,用光束連接起來,再把它們放到太陽系的兩端的隨便什么地方,比如一個在地球上,另一個在海王星上。根據IIT理論,只要連接良好,它的phi值始終為1。這真的很重要,因為它引發了一個問題:意識究竟在哪里,是在地球上,在海王星上,還是在兩者之間?

      我們可以再做一個思想實驗——現在我們要阻斷光路。記住,光路沒有傳輸任何東西,因為它們處于0狀態,就是在它沒有激活的情況下阻斷它。按照我們物理學家的傳統思維方式,什么都不應該發生,這在物理學中沒有先例。此時,唯一會發生的事情就是phi值趨于零。

      那,歸零需要多長時間?大多數人認為它會瞬間歸零——即使這兩個門相距很遠,它也會瞬間歸零。然而,你應該對物理學中出現的瞬時變化提高警惕,因為“超光速傳輸”是物理學中的大忌。因此,Phi值會瞬間下降,但實際上并沒有任何信息被傳輸。

      現在,讓我進一步擴展這個思想實驗,我們可以你的名字來命名這個實驗——“米德布魯克斯裂腦實驗”。在你允許的情況下,我們將取出你的大腦,一半留在地球上,另一半放到海王星,其間用光束連接。根據大多數人的說法,你仍然會有意識。而有意識的實體的一個特點是,可以交流意識的變化。現在,如果我們干擾其中一些連接,并且我們清楚我們在做什么,這會發生什么?

      我實際上是在問一個問題:如果阻斷大腦半球的這些連接,現在你可以通過phi值(你的意識層面)傳達這些變化。你的意識狀態如何改變,是否還可以交流?我們現在是否有辦法即時傳遞信息?

      這里,我認為IIT的支持者會提出幾點:

      • 延遲的影響:增加延遲會改變信號分發,你的意識就在海王星或地球上,但可能無法通訊了。我認為這是可以解決的,因為這是一個思想實驗,我們可以根據大氣層間連接的延遲和大氣層內連接的延遲進行調整。

      • 干擾的結果:IIT的支持者會說:“嗯,因為我干擾了地球上的線路,所以造成了這個結果”。現在情況有點復雜,可能會有論點認為phi值趨于零,或者系統因為“知道”未來某個時刻我會干擾這些連接而提前改變,有點像千里眼。

      總之,事情變得有些復雜了。對此我感到抱歉,但這正是IIT及其相關思想實驗的挑戰所在:很難明確指出它是否違反物理定律。我的觀點很簡單:由于IIT是“自由浮動”的,與其他物理學分支脫節,所以無法回答我提出的這些問題。我不知道它是否違反了物理定律,因為它的定義不夠明確,與其他物理學分支的整合也不夠緊密,以至于無法知道這些定律是否被違反。

      我認為問題不在于我們是否同意新的本體論,而在于如果新的本體論得到支持,我們就會同意。在我們同意新的本體論之前,我想先搞清楚它是否違反了現有的本體論。對我來說,這是科學過程的第一步。正如我之前所說,物理定律并非一成不變,它們有改變的空間。但我需要知道,在沒有任何經驗數據的情況下,提出的新本體論是否與現有的本體論一致。

      保羅·米德布魯克斯:值得一提的是,從卡爾·波普爾(Karl Popper)的視角來看,科學的本質在于它實際上是可以不斷被證偽,這取決于我們現有的整個科學知識庫。

      卡爾·波普爾(Karl Popper)是20世紀杰出的哲學家(1902~1994)。他提出了“可證偽性”原則,強調科學理論必須能夠被經驗事實證偽,即理論需要有被證明錯誤的可能性。波普爾反對歸納法,主張科學知識的發展依賴于假設的提出和批判性檢驗。波普爾還探討了開放社會的概念,在《開放社會及其敵人》一書中批判了歷史決定論和烏托邦式社會主義,強調民主和個人自由的重要性。他的哲學思想對科學哲學、社會科學以及教育學等多個領域產生了深遠影響,促進了科學方法論的發展和對知識增長機制的理解。

      有趣的是,聽了你的“長篇大論”,我發現,我們討論的不是COGITATE項目,而是海王星和冥王星、視覺通路,以及瞬時性。歸根結底,預測結果是IIT位于后頂葉皮層。

      迪恩·布奧諾馬諾:我再次強調,我說過COGITATE項目很棒。我認為數據收集很好,但我并沒有說它的解讀或使用方式是理想的。我認為他的問題在于,它是對兩種理論的檢驗,而這兩種理論都缺乏約束。如果你讀過Stan Dehaene(斯坦尼斯拉斯·迪昂)的結論,他明確地指出,IIT實際上并沒有被檢驗;被檢驗的是IIT的一種松散的解釋,它預測了IIT位于后頂葉皮層的原因。

      說實話,我并不完全理解。IIT是以數學為核心(這一點尚未經過測試),IIT建立在數學支柱之上,它過于復雜而無法計算。一個擁有321個神經元的秀麗線蟲的φ值,如果你從今天開始計算,等你完成的時候,太陽就已經完全消失了。這種數學結構用處有限。

      我想澄清的是另一點。如果IIT的支持者認為φ值與意識相關,或者說是意識的衡量標準,我認為IIT的關注度就不會這么高。IIT值得稱贊的是其數學框架,但實際上他們并沒有考察其數學框架。因為根據定義,φ值無法計算,充其量只得到了估算值。

      保羅·米德布魯克斯:在COGITATE項目的案例中,他們最終進行了IIT與全局神經工作空間(Global Neuronal Workspace Theory,GNWT)理論的比較測試。科學界為什么可以接受GNWT理論,而IIT卻不行?

      從你所說的認識論角度來看,GNWT理論似乎很難定義。Bernard Baars(伯納德·巴爾斯)的哲學定義更抽象,其后的Stanislas Dehaene(斯坦尼斯拉斯·迪昂)使其更加神經科學。

      全局神經元工作區理論(Global Neuronal Workspace Theory,簡稱GNWT),GNWT試圖解釋意識如何從大腦活動中涌現,以及意識內容如何在大腦中被表征和處理。GNWT認為,意識是大腦中信息在廣泛區域之間傳播的結果,特別是通過前額葉皮層的“全局信息廣播”機制。GNWT強調意識內容的全局可訪問性,即一旦信息進入意識,它就可以被大腦中的所有信息處理系統所獲取。這一理論在認知科學和意識研究領域具有重要影響,并且已經通過多種神經成像技術進行了實驗驗證。

      伯納德·巴爾斯(Bernard Baars)是GNWT的創始人之一,他在1988年提出了這一理論的早期版本,強調意識是一種動態的、整合的過程,其中信息在大腦的多個區域之間傳播和共享。巴爾斯認為意識的產生需要一個全局工作區,這個工作區能夠整合來自不同感官和認知過程的信息,并將這些信息轉化為我們可以意識到的內容。

      斯坦尼斯拉斯·迪昂(Stanislas Dehaene)是GNWT的另一位重要貢獻者,他在巴爾斯的基礎上進一步發展了這一理論。迪昂的研究主要集中在意識的神經機制上,他使用多種神經成像技術(如fMRI、MEG和iEEG)來研究意識的神經基礎。迪昂提出了“全局神經元工作區”的概念,認為意識的產生需要大腦中的特定區域(如前額葉皮層)將信息廣播到其他區域,從而使信息具有全局可訪問性。

      迪恩·布奧諾馬諾:我認為你想表達的是,GNWT理論非常模糊、不定型,而且嚴重缺乏約束。這正是造成困惑的原因,我很高興你提起這件事。

      事實上,很多事情都是如此,造成了人們的困惑。我找不到更簡單的答案或更簡單的二分法。所謂“理論”,我們其實應該用引號,或者我們可以稱之為“前理論”或“猜想”,因為它們并非真正成熟的理論。

      我認為困擾我們很多人的正是你所指的,當你試圖比較兩套理論,一套理論雖然不完美,但不需要改變人類科學史上最成功的本體論——物理定律,而另一套理論則需要改變;且如果GNWT和IIT的支持幾乎各占一半。那這兩個理論是否處于同一水平?當然不。

      我是指,兩者勢均力敵,但其中一套理論需要改變物理定律,那么誰會占優?肯定是不需要改變物理定律的那套理論。實際上,在我和他們交流的時候,討論了一個問題:考慮到結果,你如何衡量哪一個更可信?

      我覺得Karl Friston(卡爾·弗里斯頓)可能建議用貝葉斯方法來解決這個問題。這很有意思,如果你有很多需要分級的考慮因素和衡量標準,你可以采用貝葉斯方法。而正如我們所知,在貝葉斯方法中,物理定律是一個重要的先驗假設。

      保羅·米德布魯克斯:這是一個強有力的先驗假設,甚至是最強有力的先驗假設。人們常說,正是它讓我們(人類)登上了月球,但我們都知道我們(倆)還沒去過月球,對吧?


      器官型切片與傳統腦切片有何不同?

      保羅·米德布魯克斯:我不知道這是否適合評論你最近的器官研究——它不是類器官,而是器官型。類器官和器官型之間有什么區別?器官型切片只是一塊腦切片嗎?

      迪恩·布奧諾馬諾:自80年代以來,器官型切片已經存在很多年了。如果你知道大腦切片的電生理實驗,就應該熟悉那種“現切”的腦切片實驗。也就是從嚙齒動物身上取到的腦組織,然后將其切片放在ACSF(人工腦脊髓液)中保持活性,這就是腦組織切片,你也可以對其進行培養,它可以存活數周甚至數月。

      艾倫研究所(Allen Institute)最近發表了一些關于人類器官型切片的論文。他們所用的腦組織保留了很多結構連接以及細胞類型,我們將其看作是大腦的一個小型VLSI(超大規模集成電路)芯片,并且可以“訓練”它。

      類器官作為一個近期發展起來的技術,它從具有多能性的干細胞或細胞培養物開始,誘導它們進入神經發育的早期階段。這項技術仍在發展中,還無法用來研究學習過程或人大腦皮層的功能。目前培育的腦類器官只是在大腦非常早期的發育階段,突觸還沒有完全發育成熟,還不具備完整功能。我認為最終會實現這個目標,但現在還為時過早。

      保羅·米德布魯克斯:讓我回憶一下,從小鼠身上取腦切片,這是神經科學世界的入門課——處死小鼠,剝離出大腦,截取部分腦組織,然后放在一個精巧的切片機中,由此得到非常薄的腦組織切片,再把切片放入一種能維持細胞活力的溶液中。然后,由于過程中切斷了許多神經連接,也就是神經元之間的長距離連接,需要等待一會兒使這些腦組織切片“恢復”。這之后,就可以使用膜片鉗之類的技術,用電極記錄單個神經元的信號,例如記錄局部場電位或者導入電流等。那么,類器官與器官型組織的區別,就在于實驗之后會繼續培養細胞,是嗎?

      迪恩·布奧諾馬諾:正如你剛才所說,過程中切斷了許多長距離的神經連接。這種組織里每個神經元都失去了大量的輸入,所以它處于異常動態中。接下來,穩態可塑性開始發揮作用,它會調整閾值、突觸強度,使其恢復到某種個體發育狀態或動態。這可以觀察到神經元開始有電生理活動,像網絡一樣傳遞電生理活動,甚至會表現出“上行狀態”(up states),呈現出動態變化的特性。

      保羅·米德布魯克斯:那么,腦切片和器官切片有什么區別呢?

      迪恩·布奧諾馬諾:傳統的腦切片,不再處于可以傳遞電生理活動的動態狀態,已經失去了大部分活性……另外,有的實驗需要進行幾天時間,傳統腦切片其實活性難以維持那么久。

      這是一堂關于腦切片、類器官和器官型切片的速成課。為什么要使用器官型切片?讓我們先來談談一個科學問題——如果神經元是計算設備,神經回路是執行計算的系統,為什么我們必須在完整的大腦中研究這些計算?神經科學受益于還原論方法,比如可以從海兔、斑馬魚還是秀麗線蟲中獲得啟發。但是,還原哺乳動物大腦皮層的最佳模型還得是哺乳動物的大腦皮層。

      所有皮層都只是接收動作電位的場所,聽覺皮層聽不見,視覺皮層看不見。那么,是什么讓聽覺皮層更擅長處理聽覺信息?Mriganka Sur的實驗發現了一個驚人的現象,視覺刺激被重新定向到聽覺皮層,這些聽覺皮層的細胞竟然表現出了選擇性。他們的觀點核心在于,皮層是一個通用的計算設備,可以響應動作電位的時空模式。

      借用這個原理,我們正在測試,如果感覺皮層、運動皮層、聽覺皮層或視覺皮層,從根本上講都在處理動作電位的時空模式,那么在這些獨立的神經回路中,是否能捕捉到某種計算,或者某種依賴于經驗的學習。

      我們把器官型切片看作一個簡化的系統,可以使得研究更可控。我們知道它的輸入、輸出,以及組織的處理過程。如果我們能找到方法賦予它穩定且可重復的生理活動模式,那么我們就能控制它。

      例如借助光遺傳學手段,我們能夠用不同的光學模式刺激細胞或細胞亞群,從而關注它們是否能夠學習和預測。在我們的實驗中,先會給一個“紅光”刺激,這串刺激持續了大概400毫秒;然后再給一個“藍光”刺激,藍光要么在紅光開始時亮起,要么在紅光結束時亮起。實驗分為兩個不同的組,早期組和晚期組,兩組實驗的唯一區別是刺激的時間先后順序。我們每20秒或30秒就重復一次,持續訓練24小時。后續實驗還試著只給一串紅光刺激,觀察不同類型的細胞行為是否不同,或者系統的動態是否發生改變?如果觀察到了模式變化,就意味著它根據經驗進行了調整。

      我們希望回答的問題是,腦組織會學習嗎,會根據經驗改變其結構和動態嗎?我們很高興地觀察到,早期組中藍光和紅光會更早地引發活動,而在晚期組中則更晚。一種解釋是,它預測了某事會發生,或者說,它預測藍光會出現,但藍光并沒有出現,這是一個預測錯誤。我認為這對應了Karl Friston的觀點。不過,我們的關注重點是,神經回路能夠以經驗依賴的方式學習,并捕捉時間結構——腦組織確實會學習,我們對這個結果很滿意。

      這項成果來自于我實驗室里一位非常優秀的研究生Ben Liu,他現在在加州大學舊金山分校工作。Ben告訴我,他意外地發現了切片中似乎存在自發活動的重現,他注意到早期組和晚期組的自發活動結構有所不同。在早期組中,自發活動通常進展迅速,然后衰減;而在晚期組中,自發活動會隨著時間推移而增長,并在預期的爆發時間之后達到峰值。

      我們長期以來的研究方向或結論大致是,時間感知不應該被視為大腦的一項特殊功能,它如此基礎,應該是神經回路的普遍屬性。如果我們所說的神經回路本質上能夠感知時間的說法是正確的,那么就應該可以通過這種實驗方法得以證明。

      而這也表明,即使沒有身體,神經回路也能感知時間。

      我把這個問題與IIT理論聯系起來,因為根據IIT預測,神經回路中存在循環因此也是有意識的。這是這項研究的倫理意義,它明確了許多類器官、胎兒組織和其他物質可能具有意識。


      ?來源:Davide Bonazzi

      保羅·米德布魯克斯:神經回路中,“時間”和“時序”有何區別?為什么它代表的是“時間”而不是“時序”?

      迪恩·布奧諾馬諾:在神經回路中,時序和時間的聯系更為緊密。正如我們之前討論過的,“時序”需要某種東西在時間中流動。談到大腦時,我通常不使用“時序”這個詞,因為時序指的是某種離散的東西。這適用于Transformers,不適用于大腦。但有時候兩者很難區分。

      提到神經時序,比如鳥鳴研究或交互中的神經時序,是存在順序的。例如,按照神經元A、B、C、D、E的順序,整個模式進行一秒鐘或者半秒鐘,兩種模式的順序性相同,而時間發生了變化,這只是動態系統的速度問題。動態的定義是隨時間變化的,它通過改變動態的速度來提供。我們有辦法改變速度,我可以講得很慢,也可以講得很快。這沒什么特別的,只是大多數動態系統或許多動態系統的屬性。

      保羅·米德布魯克斯:我也可以放慢語速,但那種放慢是一致的。有時我語速慢,有時我語速快。這就像鳥鳴,其中時間內部間隔的模式非常重要。也許這就是時間與時序的區別,時序中蘊含著時間。

      迪恩·布奧諾馬諾:是的。通常我認為時間是一個容器。我認為時間流(temporal flow)中蘊含著時序性,你可以控制它的速度。但我認為,這并非理解動態的根本。一切都在時間中流動,而時間的流動可以被捕捉為時序,而這與時間無關,或者只會真正地體現在你所關注的時間中。

      你可以這樣想:如果我讓“分辨綠燈和紅燈哪個先出現?”,這就是一個順序任務。而如果我問“燈閃爍的間隔是多久?”,現在這就變成了一個計時任務。它們都需要順序和連續性,但后一個被稱為時間任務,因為答案以毫秒為單位,而前一個順序任務不需要毫秒為單位,只需要序列。


      大腦可以感知時間嗎?

      保羅·米德布魯克斯:David Robbe(大衛·羅比)通過研究基底神經節,暫時得出了一個結論,那就是大腦無法測量時間。事實上,生物體測量時間的方式是通過行為過程。“無論如何,時間不是用大腦來衡量的,而是生物體利用自身行為作為替代物來估計時間。”他托我帶給你一個問題:“如果大腦里有群體時鐘,誰可以讀取它?”群體時鐘的解碼者是什么?

      大衛·羅比“大腦無法測量時間”的觀點,參見追問相關文章

      迪恩·布奧諾馬諾:首先,“解碼者是什么”這個問題,適用于幾乎所有過程,無論是空間解碼還是顏色解碼。我認為這個問題源于,人們認為時間定有某種特殊之處。但我不認為時間是一個特別獨特的問題,我覺得所有的編碼過程都類似。

      那么,是誰在解碼呢?這可以追溯到大腦中的“小人”理論。我認為這個問題已經找到不錯的答案——并不需要“讀取器”,全程只需要“計算”,計算也就是代碼會生成神經元的活動模式,進而引發機體的運動模式。

      羅比的觀點或者你剛提到的“大腦無法感知時間”,是一種非常極端的觀點。我不知道他是否真的這么說,但我們知道這種觀點是錯誤的。

      保羅·米德布魯克斯:我認為他的觀點是,假設我在敲摩爾斯電碼。時間當然存在,這一點我們都同意。神經回路和時間維度,受到身體的限制,如神經元通路、肌肉組織的限制,或者學習時序的限制。然后,我可以按照節奏執行任務,而無需明確知道某個動作需要200毫秒。換句話說,這種時間感知受到中觀層面的限制。它依賴于我們在世界中的行為能力,以及大腦-行為的輸出能力,而不是單純依賴神經元精確地“測量”時間。

      迪恩·布奧諾馬諾:我想我知道這個困惑問題的答案。

      你舉了“一個密西西比河、兩個密西西比河”的例子。我們通過身體來計時,有時還會用運動指令,比如嘴唇的運動來控制節奏。那是誰在控制嘴唇?毫無疑問是大腦控制著嘴唇。即使存在反饋機制,但我們可以控制、切斷反饋。雖然很多神經系統疾病都與反饋的破壞有關,導致機體的能力下降。但毫無疑問,是大腦在產生動態,是控制者。

      我認為問題或誤解可能在于,時間對這個領域的大多數人來說意味著什么。當我們說“節奏”時,實際上指的是動態。

      有時,我覺得他是說大腦無法感知時間,就像時鐘無法感知時間。但是,時鐘只是一個機械系統,一個隨時間變化的動態系統。時間是我們用來標準化變化的一種抽象概念。物理學家Ernst Mach(恩斯特·馬赫)有一句名言,“用時間來衡量變化是完全不可能的,因為時間是我們通過測量變化而得到的抽象概念。”他說“時間不在大腦里”,這有點玩字眼,但沒關系,反正時間也不在時鐘里。

      時間只是一種體現變化的抽象概念。

      當我們說200毫秒或700毫秒,真正的意思其實是指,這段可以被時鐘測量出來的時間,這里需要時鐘去匹配它,有時我們會用身體來匹配它。

      我可以舉一些具體化或不具體時間的例子:

      加州大學洛杉磯分校的電梯很煩人,你必須先刷卡,然后在之后大約905毫秒的時間內按下你想去的樓層的按鈕(我還沒掌握這個技巧)。為了做到這一點,我們有時會改變手臂的速度來配合,大腦會利用身體來幫助我們計時。否認大腦沒有控制身體并做出動態動作,無疑是錯誤的。

      我的大腦控制著我的身體來幫助我“計數”。我不知道這是否應該叫做“計數”。如果你愿意的話,確實可以這么說,但千萬別把因果關系混為一談。很明顯,是大腦在與身體聯系,即使大腦是控制身體的一部分。

      保羅·米德布魯克斯:那你的器官切片含有神經元,它們也是可以感知時間的,對吧?

      迪恩·布奧諾馬諾:是的。不過,我認為羅比可能會反對。時間是我們用來量化變化的詞。而羅比使用“時間”這個詞的方式與大多數人不同,他認為沒有人能夠感知時間,因為時間是一個抽象的概念,我們通過測量變化來獲得它。我們暫時不討論物理。我想找機會跟和他一對一聊聊,看他如何面對這個問題。


      ?圖源:Shuzhan Yu

      保羅·米德布魯克斯:總之,我的想法是,一個神經元,它經歷了所有這些變化和過程。這些變化需要時間。神經元是個活體,既是個體,又不是個體,但卻是自主的物體。你也可以說,人體是一個整體。如果我一邊打鼓一邊計時,我體內的所有這些過程都會影響我最終的行為。

      我有個問題,一個神經元,它被光線照射時會逐漸適應,會習慣以一定的速率回收突觸小泡,也會涉及到ATP的產生等節奏性過程。雖然這些節奏發生在細胞內,但那里沒有“時間”。這些只是活細胞內部發生的物理過程的具體體現。你說,我們不談物理,但我們必須討論物理。

      時間就是變化。假設我挑戰極限,比如持續刺激24小時,可能就是在挑戰細胞的極限。在刺激方案中,是否存在一個最佳刺激點,能夠讓單個細胞,乃至整個細胞群跟上并被誘導?這是一個小問題,但是我想問的問題。

      迪恩·布奧諾馬諾:首先需要澄清的是,這些現象并非單細胞特性,而是電路特性,需要神經電路整合才能實現。這確實有點令人困惑。有時我們會用神經動力學來表示單細胞特性,而神經動力學現在指的是電路特性。那么,什么是動力學?

      動力學指的是任何遵循物理定律、在時間中運行的動態系統,無論是計算機還是從山上滾下來的球。

      同樣,我認為“時間”這個詞很容易讓人產生困惑。在這場辯論中,我擔心有些人會錯誤地認為時間是某種存在的東西。

      當我們說“某個過程持續500毫秒”時,是的,我們說的是刺激方案被設置為兩個刺激之間的時間差是500毫秒。這里的“500毫秒”,是石英晶體振蕩17000次所需的時間。我認為這就是這些爭論如此令人困惑的原因,因為時間是一個如此重要的概念,以至于我們往往會忘記它并不存在于外部世界。

      時間通常被認為是英語中最常用的名詞。說它不存在有點諷刺。它確實錨定了我們生活的方方面面以及正在發生的變化。當我說大腦能感知時間時,我的意思是,大腦毫無疑問擁有動態過程,使其能夠同步、預測、匹配和解碼外部世界正在發生的變化。無論是內部情況還是外部情況,我們都恰好使用“時間”這個詞來量化這些變化。

      我明白,有時這會引起某種困惑。這也可以追溯到柏格森。我認為他只是用了“時間”這個詞,跟大多數人(尤其是如今的人)使用“時間”的方式不太一樣。所以這并非一個特別有研究價值的課題。


      人工智能需要感知時間嗎?

      保羅·米德布魯克斯:最后一個問題,我們一開始討論了人工智能,以及時間在人工智能中為何無關緊要。那么,人工智能需要時間嗎?

      迪恩·布奧諾馬諾:我想再次澄清:我從未說過時間在人工智能中無關緊要。我說的是,Transformer的成功令我驚嘆,盡管它的架構不允許它們感知時間。顯然,在機器人技術、自動駕駛汽車領域,時間很重要。此外,時間的結構也體現在語音處理上。例如,當你通過語音與ChatGPT交互時,像“大眼睛”或“灰色領帶”,或者“他們給她貓糧”和“他們給了她貓糧”之類的語句,這些都體現了時間結構,而ChatGPT可以捕捉到這些時間差異。

      其實,這不是Transformer的能力。語音識別是前端的處理,但它確實依賴于對時間間隔和時間結構的捕捉。

      所以,我從未否認時間的重要性。你的問題是,時間對于人工智能是否重要?答案是肯定的,只不過它的實現方式不同。我們可以通過許多策略來處理時間,比如基于帶有延遲的前饋網絡來模擬時間動力學。

      回到意識的話題上。對我來說,意識是一個生物過程,其定義取決于它如何隨時間演化。對我來說,意識就像音樂。它只存在于時間的流動或生命本身中。你觀察生命,問一個冰凍的生物是否活著是沒有意義的,因為生命的定義在于變化、新陳代謝、繁殖......

      保羅·米德布魯克斯:我同意你的說法。我們唯一知道的是,意識是一個生物過程。至少,我們在生物過程中所知的唯一意識例子是那些隨時間流動的事物。我認為,當意識場試圖探索各種不同的渠道和理論時,從一開始就嘗試將其建立在時間規則之上是有幫助的。在我看來,IIT不是一個過程,而是一種狀態。

      迪恩·布奧諾馬諾:據我理解,IIT并不需要時間(改變)的概念。如果一切都是靜態的,那么IIT仍然是有意識的。但這很難真正理解,因為它的定義并不明確,也沒有相應的度量單位。我推測,對于在標準數字計算機上實現的人工智能,考慮到這些計算機本身沒有連續時間,它們的計算是離散的,我因此推測,僅僅是推測,這些計算機不支持意識,因為它們不支持連續時間。


      編譯后記

      時間是理解大腦和智能的關鍵。這次訪談,兩位專家深入探討了大腦如何處理時間的問題。時間不僅是外部的一個維度,更是大腦內部計算的核心維度之一。

      布奧諾馬諾強調了神經動力學、做預測的機制及其在人工智能中的潛在應用。他也對意識和自由意志等哲學議題做了探討。布奧諾馬諾強調了時間在大腦功能中的核心作用。他區分了“計時”(timekeeping)和“時間感知”(timing)兩個概念,指出大腦并沒有一個專門的“計時器”,而是通過動態神經網絡對時間進行編碼。

      大腦中的信息處理,可以看作是神經元活動在高維空間中不斷演化的軌跡。這種“時空軌跡”不僅編碼外部信息,也反映了內在的時序結構。大腦不僅在處理當前輸入,還在不斷預測未來。預測性編碼(predictive coding)是他強調的一個關鍵機制,用以解釋感知、記憶和動作的時間協調。

      布奧諾馬諾討論了時間如何嵌入到我們的認知功能中,比如語言、音樂、運動等。語言理解就是一個高度依賴時間結構的過程。他指出當前人工智能系統在處理時間和動態信息方面仍然較弱,大腦的時間處理機制有助于AI系統的改進。

      在哲學層面,他簡要討論了時間與自由意志的關系。他認為要真正理解和模擬人類智能,需要深入探索大腦如何處理時間、因果關系和動態信息。這對于神經科學研究具有重要意義,也促使人們思考人工智能的底層邏輯。

      *為了閱讀體驗,本文對聽稿進行了適當的編輯。

      原對話指路:https://www.thetransmitter.org/brain-inspired/dean-buonomano-explores-the-concept-of-time-in-neuroscience-and-physics/





      來源 追問nextquestion

      轉載 高校科幻


      特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

      Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

      相關推薦
      熱點推薦
      用了幾十年的聚酯纖維,是怎么在互聯網塌房的?

      用了幾十年的聚酯纖維,是怎么在互聯網塌房的?

      差評XPIN
      2025-12-08 00:06:03
      確定了!2026春節放假方案:3個好消息,1個壞消息,早了解早準備

      確定了!2026春節放假方案:3個好消息,1個壞消息,早了解早準備

      知法而形
      2025-12-20 13:43:50
      《人民日報》:這70個中國文化基本常識,建議收藏起來慢慢看……

      《人民日報》:這70個中國文化基本常識,建議收藏起來慢慢看……

      每日一首古詩詞
      2025-12-11 07:07:07
      四川這所高校,考上不花錢還有工資拿,家長都眼紅了!

      四川這所高校,考上不花錢還有工資拿,家長都眼紅了!

      金哥說新能源車
      2025-12-21 11:08:54
      我國“二本分”就能上的3所公辦本科,就業比211還好!

      我國“二本分”就能上的3所公辦本科,就業比211還好!

      高三倒計時
      2025-12-21 18:42:49
      深圳16歲“烤雞少年”回應日營業額過萬:利潤約一到兩千,若重來想好好讀書

      深圳16歲“烤雞少年”回應日營業額過萬:利潤約一到兩千,若重來想好好讀書

      紅星新聞
      2025-12-20 19:39:12
      正式上任!劉國梁官宣新身份,這次他讓樊振東和整個乒壇刮目相看

      正式上任!劉國梁官宣新身份,這次他讓樊振東和整個乒壇刮目相看

      林輕吟
      2025-11-26 08:56:02
      史上最搶手皇后,6位帝王輪番霸占60年不停歇,48歲還被人爭著要

      史上最搶手皇后,6位帝王輪番霸占60年不停歇,48歲還被人爭著要

      小豫講故事
      2025-12-08 06:00:07
      國家文物局:正在查“8800萬藏品被拍賣”,南京博物館“遺漏”?

      國家文物局:正在查“8800萬藏品被拍賣”,南京博物館“遺漏”?

      奇思妙想草葉君
      2025-12-18 23:51:37
      娶15歲嬌妻,只為與36歲岳母偷情的盧芹齋,為何讓人又愛又恨?

      娶15歲嬌妻,只為與36歲岳母偷情的盧芹齋,為何讓人又愛又恨?

      云霄紀史觀
      2025-12-19 19:20:10
      快交易了?騎士老板對近11戰8敗極為不滿 奢侈稅1.64億還領跑聯盟

      快交易了?騎士老板對近11戰8敗極為不滿 奢侈稅1.64億還領跑聯盟

      羅說NBA
      2025-12-21 06:20:07
      前途光明,張博源父親自宣兒子收到籃球名校伊利諾伊offer

      前途光明,張博源父親自宣兒子收到籃球名校伊利諾伊offer

      懂球帝
      2025-12-21 11:53:07
      澳門回歸前,富商馬萬祺前來提醒:請向中央反映,澳門必須駐軍

      澳門回歸前,富商馬萬祺前來提醒:請向中央反映,澳門必須駐軍

      壹知眠羊
      2025-12-19 07:17:58
      傅崐萁一錘定音!鄭麗文果斷出手 侯友宜成新突破口 吳宗憲尷尬了

      傅崐萁一錘定音!鄭麗文果斷出手 侯友宜成新突破口 吳宗憲尷尬了

      林子說事
      2025-12-21 13:18:32
      周揚青前男友公開女裝扮相出柜!中國最大烘培企業霸總變女神

      周揚青前男友公開女裝扮相出柜!中國最大烘培企業霸總變女神

      一盅情懷
      2025-12-21 15:42:50
      壽命長短與喝酒有很大關系?調查11558名飲酒者,終于得出答案

      壽命長短與喝酒有很大關系?調查11558名飲酒者,終于得出答案

      39健康網
      2025-11-06 10:34:05
      南博再爆大瓜:生物碩士“速成”美院博士,冒名捐贈者龐家后人

      南博再爆大瓜:生物碩士“速成”美院博士,冒名捐贈者龐家后人

      聽心堂
      2025-12-20 09:23:43
      身體出現5個跡象,說明血壓開始恢復正常,趕緊對照看下你有沒有

      身體出現5個跡象,說明血壓開始恢復正常,趕緊對照看下你有沒有

      岐黃傳人孫大夫
      2025-12-21 09:05:03
      博主:申花俱樂部投資方的態度成為路易斯續約的“攔路虎”

      博主:申花俱樂部投資方的態度成為路易斯續約的“攔路虎”

      懂球帝
      2025-12-21 09:25:09
      醫生一上午檢查11人全確診癌癥晚期,改變從等三分鐘開始

      醫生一上午檢查11人全確診癌癥晚期,改變從等三分鐘開始

      觀星賞月
      2025-12-21 17:37:50
      2025-12-21 19:35:00
      高校科幻 incentive-icons
      高校科幻
      專注于科普科幻文化類文章創作
      1718文章數 154關注度
      往期回顧 全部

      科技要聞

      生態適配已超95% 鴻蒙下一關:十萬個應用

      頭條要聞

      副部級尹建業任上落馬 長期在云南任職

      頭條要聞

      副部級尹建業任上落馬 長期在云南任職

      體育要聞

      勇士火箭贏球:王牌之外的答案?

      娛樂要聞

      鹿晗關曉彤戀愛期間毫不避諱?

      財經要聞

      老房子“強制體檢”,政府出手了

      汽車要聞

      -30℃,標致508L&凡爾賽C5 X冰雪"大考"

      態度原創

      藝術
      時尚
      家居
      親子
      公開課

      藝術要聞

      元代Ι李衎《四清圖卷》欣賞

      中年女人,冬天這么穿羽絨服、大衣,優雅都藏在這3個細節里

      家居要聞

      高端私宅 理想隱居圣地

      親子要聞

      姐姐竟然會飛檐走壁,沒想到我也會

      公開課

      李玫瑾:為什么性格比能力更重要?

      無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 久久熟女| 亚洲国产另类久久久精品网站| 亚洲色一区二区三区四区| 欧美性白人极品hd| 五家渠市| jizz亚洲| 亚洲国产精品乱码一区二区| 亚洲熟少妇在线播放999| 71.C在线观看| 91婷婷| 无码高潮少妇毛多水多水| 亚洲日韩成人av无码网站| 欧美一区二区| 亚洲AV日韩Aⅴ无码| 99精产国品一二三产品香蕉| 前郭尔| 国产人成视频在线观看| jizz国产| 草裙社区精品视频播放| 一区二区三区国产亚洲网站| 无码av波多野结衣| 亚洲中文字幕人妻| 日韩人妻精品中文字幕免费| 欧美激情a∨在线视频播放| 北条麻妃无码| 少妇被粗大猛进进出出| www.亞洲色| 人妻色综合网站| 国产精品被熟女| 亚洲熟女字幕| 成a人片亚洲日本久久| 亚洲69视频| 国产xxxx做受视频| 贺兰县| 欧美性受xxxx黑人xyx性爽| 免费网站看sm调教视频| 亚洲熟女乱色一区二区三区| 成都市| 亚洲欧洲制服| 五十路AV| 一区二区乱子伦在线播放|