![]()
導語
研究者們對由多個相互作用部分構成的復雜系統的理解和控制能力仍然有限。一個核心挑戰在于,研究者們尚未明確如何才能最佳地描述并量化那些體現系統復雜性特征的多對多動態交互。為解決這一局限,本文提出了 “整合信息分解”(Integrated Information Decomposition,簡稱 ΦID)這一數學框架。ΦID 為拆解并描述復雜多變量系統的信息動力學提供了全面的分析工具。在理論層面,ΦID 揭示了此前未被研究的集體信息流模式;通過將信息傳遞、信息存儲及動態復雜性等已知度量表述為這些模式的聚合體,ΦID 不僅提供了新的分析手段,還克服了這些度量在理論上的部分已知缺陷。在實證層面,本文通過計算模型以及來自 1000 多個生物、社會、物理及人工動態系統的實例,驗證了理論結果的有效性。綜上,ΦID 深化了研究者們對跨學科領域中廣泛使用的復雜系統表征度量之行為模式的理解,并為動態復雜性研究提供了更精細的新型分析方法。
關鍵詞:信息論,復雜性,動力系統,整合信息
鄭鴻盛丨作者
趙思怡丨審校
![]()
論文題目: Toward a unified taxonomy of information dynamics via Integrated Information Decomposition 發表時間:2025年9月22日 論文地址:https://doi.org/10.1073/pnas.2423297122 發表期刊:PNAS
理解復雜系統的難題
從大腦神經網絡、全球氣候系統,到金融市場和社交網絡,現代科學研究中最具吸引力的現象往往源自復雜系統。此類系統由大量相互作用的單元構成,單元層級遵循的規則雖然簡單,但其整體卻可能的涌現出截然不同的宏觀行為。如何以嚴謹、可解釋且可比較的方式刻畫這種“整體復雜性”,一直是該領域長期未解的核心問題。
過去的研究嘗試以單一的“標量指標”對復雜系統進行定量描述。例如:
整合信息(Φ):用于評估系統整體動態是否超越個體成分的簡單疊加;
因果密度(Causal Density):用于度量系統內部因果交互的整體強度。
盡管這些指標具有明確的理論動機,但在實際應用中常面臨諸多限制:不同系統或數據條件下得到的數值往往難以比較,解釋一致性不足,甚至可能出現“負整合”這樣的反常結果,使其作為通用復雜性度量的可靠性受到質疑。
與此同時,信息論的另一研究路徑——轉移熵(Transfer Entropy, TE)與活躍信息存儲(Active Information Storage, AIS)——能夠有效描述信息在系統中的輸入、輸出與來源,但仍無法回答更本質的問題: 信息在系統內部究竟以怎樣的結構被組織、以何種機制在不同單元間傳播?換言之,現有方法能夠刻畫“信息流的大小”,卻難以刻畫“信息動力的形態與構成”。正是在此背景下,ΦID 框架被提出,旨在為復雜系統中的信息加工與因果結構提供更系統、更統一的理論描述。
從部分信息分解到整合信息分解
PID:信息分解研究的基礎框架
在信息論的發展過程中,部分信息分解(Partial Information Decomposition, PID)曾是一個重要的概念性突破。該框架試圖細化多個信息源對某一目標變量的貢獻,并將這些貢獻劃分為三個基本成分:
冗余信息(Redundant):由所有源共同提供的重疊部分;
獨有信息(Unique):僅由某一特定源提供的部分;
協同信息(Synergistic):單獨考察任何一個源都無法獲得,只有多個源共同作用時才會出現的信息。
PID 的提出使研究者首次能夠系統地區分“信息來自誰”以及“不同來源之間如何共同作用”。然而,PID 的適用范圍主要限于多源—單目標的情形。現實系統——例如神經系統、生態系統或氣候網絡——往往同時存在多個信息源和多個受體,其動態結構遠超單目標框架所能描述。在此情況下,PID 的表達能力就如同試圖用二維地圖呈現三維地貌,難以充分捕捉信息交互的真實結構。
ΦID:邁向信息動力學的系統化描述
整合信息分解(Integrated Information Decomposition, ΦID)可以視作對 PID 的時間維度與因果維度的擴展。與 PID 僅回答“信息來源是什么”不同,ΦID 更進一步,將信息視為隨時間演化的結構性實體,關注其如何在系統內部被保留、復制、改變方向、組合或消失。換言之,ΦID 不僅刻畫信息的“位置”,還描述其在系統中的“命運”。
在最簡單的兩成分相互作用系統中,PID 只能區分 4 類信息原子,而 ΦID 的時序與結構擴展使其能夠識別出16 類信息原子,構成一個更為完整的“信息動力學晶格”(information lattice)。這一擴展不僅顯著提升了信息分解的精細度,也為研究復雜系統中的信息加工機制提供了更加系統化和可解釋的理論工具。
![]()
圖1:從PID到ΦID的信息晶格結構,左圖展示了傳統PID的四個信息原子;右圖則是ΦID的16格矩陣——每個格子代表一種信息形態從“過去”到“未來”的演化方式。 這就是作者提出的“信息動力學元素周期表”。
六種信息動力學模式
基于對 16 種信息原子的系統梳理,作者進一步總結出信息在復雜系統中的六類基本動態模式。這些模式刻畫了信息如何在系統結構與時間維度上被保存、復制、傳遞、消除,以及如何在個體與整體層級之間產生因果作用。
首先,存儲(Storage)描述信息在同一單元內部得以維持的過程,是系統保持內部狀態記憶的基礎。例如神經元或網絡節點的自我記憶行為,即可視為典型的存儲機制。與此相關的另一類機制是復制(Copy),即信息從一個單元被拷貝到另一個單元的過程。這類機制廣泛存在于遺傳復制、數據冗余或并行計算等場景中,是信息保持結構穩定性的關鍵途徑。
相較于復制,轉移(Transfer)則強調信息在不同單元之間的方向性傳播,反映系統組件之間的輸入—輸出關系。例如神經系統中的信號傳遞,就屬于典型的信息轉移過程。與轉移相對的是消除(Erasure),即冗余或無效信息被移除的過程,用以維持系統運作的有效性,例如噪聲抑制或數據清理均為此類機制的實例。
在上述四類基本動態之外,作者還引入了兩種跨層級的因果模式,用以解釋系統整體與局部之間的相互影響。上行因果(Upward causation)指個體層級的狀態或行為共同構成了整體的宏觀屬性,如群體中個體行為的聚合效應。與之相對的下行因果(Downward causation)則強調整體狀態對個體未來行為的約束或調節作用,例如系統級別的調控機制會反作用于單個單元的狀態變化。
這些模式像是信息流動的“六種生命形態”,共同構成了復雜系統的動態基因組。
![]()
圖2:ΦID的六類信息動力學模式,每一條線連接著“過去的信息結構”與“未來的信息形態”。“上行”與“下行”因果的對稱性,展現了復雜系統中整體與局部之間的雙向信息流。
重新定義“整合信息”
“整合”并非單一標量,而是多類型信息過程的復合結構
ΦID 框架的一個核心貢獻在于明確指出:傳統整合信息指標(Φ)無法被視作描述系統整合程度的單一維度量。相反,所謂“整合”往往由多種性質不同的信息動力學機制共同構成,其內部結構具有高度異質性。為闡明這一點,研究者選取了三個簡單但信息結構不同的邏輯系統——復制系統、XOR 系統以及奇偶保持系統——并展示盡管這三類系統在傳統 Φ 指標下均取得相同的數值(Φ=1),其信息整合的成分來源卻截然不同。
在復制系統中,整合信息主要體現為個體層級信息在時間維度上的保留與持續轉移,即獨有信息在過去與未來之間的直接映射(Un→Un)。相比之下,XOR 系統的整合來源于協同信息在時間演化過程中向獨有信息的轉化(Syn→Un),反映了該系統中多成分聯合作用的關鍵性。第三種奇偶保持系統則表現為協同結構的持續維持,即協同信息在時間序列中保持自洽延續(Syn→Syn)。
這三類系統共同表明:即便在相同的 Φ 值下,系統內部的信息組織方式、因果結構以及動態機制可能完全不同。
因此,“整合”并不能僅通過標量大小加以理解,而需要在機制層面揭示其構成成分與轉化關系。ΦID 提供的分解框架正是為了對這種內部多樣性進行系統刻畫,從而為復雜系統的整合結構提供比傳統指標更具解釋力的理論基礎。
![]()
圖4:三種邏輯系統的整合差異,三個系統的整體減部分的整合信息量(Whole-Minus-Sum Integrated Information Φ,ΦWMS)值相同,但信息動力學完全不同。ΦID的可視化讓“整合”從一個模糊指標變成可分解的機制。
修正負整合的問題:ΦR 的提出
在對傳統整合信息指標的系統分析中,作者注意到ΦWMS在某些系統中會產生負值的整合信息,這一現象令人困惑。ΦID 框架提供了明確的機制性解釋:負整合并非意味著系統“缺乏整合”,而是源自冗余信息在分解過程中被重復計入(Red→Red),從而導致整體估計出現偏差。
基于這一認識,作者提出了修正版整合指標 ΦR。該指標通過在信息分解過程中對冗余項進行系統性校正,使整合信息的計算避免重復計數,從而確保所得值始終保持非負。與 ΦWMS 相比,ΦR不僅在數學結構上更加自洽,也更符合復雜系統研究中的基本直覺:系統的整合性不應表現為負值。
這一修正使整合信息的量化在理論和應用層面均更加穩健,為后續基于 ΦID 的信息動力學分析奠定了更一致和可解釋的基礎。
![]()
圖5:ΦR修正后的表現,當噪聲相關性增加時,ΦWMS下降為負值,而ΦR始終穩定為正。ΦR像是“糾偏后的指南針”,讓整合信息重新指向真實的系統結構。
從模擬到實證:ΦID的應用
案例一:全腦模型中的整合動態
在基于人腦結構的動態均值場模型( the Dynamic Mean Field model, DMF)中,研究者模擬了不同腦區的交互。當全局耦合參數G≈2時,系統達到最高整合狀態。 此時,傳統ΦWMS出現負值,ΦR則呈現出清晰正峰。這一結果與腦影像研究一致—— 清醒意識狀態下的大腦,的確處于最優信息整合區。
![]()
圖6:圖 A 展示了 ΦR / ΦWMS 的計算基礎:一個由真實結構連接 + 腦區動力學 + 全腦耦合構成的仿真大腦;圖 B顯示全腦模型中ΦWMS與ΦR的比較,藍線為傳統ΦWMS,紅線為修正ΦR。ΦR在G=2處達到峰值——此時的整合度最符合大腦的真實運行狀態。
案例二:心率與呼吸的因果關系
在分析Fantasia心肺數據庫時,研究者利用ΦID分解了呼吸與心率之間的轉移熵。結果顯示呼吸→心率方向的TE較高,但主要驅動力來自“協同→獨有(Syn→Un)”的下行因果,同時存在小但相反方向的“獨有→冗余(Un→Red)”效應。這說明傳統轉移熵僅看到“信息流”, 而ΦID揭示了“信息是以何種形式在流動”。
![]()
圖7:心率與呼吸間的ΦID分解。轉移熵(Transfer entropy)被拆解為其包含的 4 個 ΦID 信息原子,這些原子基于兩個方向(心率到呼吸 [H2B] 及呼吸到心率 [B2H])進行計算。藍色條代表呼吸→心率的下行協同效應(Syn→Un),紅色條顯示心率→呼吸的復制效應(Un→Red)。ΦID讓心肺系統的信息協同關系第一次變得“可見”。
案例三:跨學科的1,053個系統分析
研究者們進一步對來自物理、生物、社會與人工系統的1,053個多變量時間序列進行ΦID分解。
結果令人震驚:活躍信息存儲(AIS)與轉移熵(TE)的正相關,實際上幾乎完全由“信息復制(Un→Red)”驅動。當剔除這一成分后,兩者相關性幾乎消失——過去十年被廣泛引用的“信息存儲與轉移耦合規律”,可能只是一個統計幻象。
![]()
圖8:AIS與TE的關系被信息復制所驅動,紅色柱為原始相關,灰色柱為剔除信息復制后的結果。可見,ΦID讓我們首次識別出“隱藏在統計相關背后的信息機制”。
未來展望:邁向信息科學的“第二次分解革命”
ΦID 的提出不僅擴展了信息動力學的分析工具,更為理解復雜系統提供了一種新的概念框架。該框架強調,復雜性并非源于隨機性或混亂,而是體現為信息在不同層級之間的組織、轉化與再生產方式。由此,ΦID 有望推動信息科學邁向“第二次分解革命”——從對靜態信息量的度量轉向對信息結構與動力模式的系統性解析。
未來研究方向主要體現在以下幾個方面。首先,有必要進一步發展更具普適性的冗余函數,例如基于最小互信息(MMI)、共通因果結構(CCS)等定義,以增強 ΦID 在不同類型系統中的適用性。其次,將 ΦID 推廣至非 Markov 系統、非平穩過程以及非高斯分布,仍是其理論擴展的關鍵挑戰之一,這將使其能夠覆蓋更廣泛的自然與人工系統。最后,ΦID 的潛在應用前景十分廣闊,包括神經網絡的可解釋性分析、群體決策機制建模、生態系統中的信息流追蹤、經濟—社會系統的因果結構分析等領域。
正如作者所強調的那樣:理解復雜系統的前提,是理解信息如何在系統內部產生、轉化與傳遞。 ΦID 的框架為這一目標提供了新的理論基礎,也為未來跨學科的信息動力學研究打開了更廣闊的空間。
因果涌現讀書會第五季
跨尺度、跨層次的涌現是復雜系統研究的關鍵問題,生命起源和意識起源這兩座仰之彌高的大山是其代表。從2021年夏天至今,集智俱樂部已經陸續舉辦了四季「因果涌現」讀書會,系統梳理了因果涌現理論的發展脈絡,深入探討了信息整合與信息分解的本質,并探索了在生物網絡、腦網絡、機器學習等跨學科領域的應用。此次將追蹤因果涌現領域的前沿進展,展示集智社區成員的原創性工作,希望探討因果涌現理論、復雜系統的低秩表示理論、本征微觀態理論之間的相通之處,對復雜系統的涌現現象有更深刻的理解。讀書會已完結,現在報名可加入社群并解鎖回放視頻權限。
詳情請見:
1.
2.
3.
4.
5.
6.
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.