反向貝葉斯思維

開始

作為最早寫“貝葉斯概率”的思考者之一，我看到這個(gè)主題越來越熱鬧，自然開心。

但是我又發(fā)現(xiàn)，對(duì)貝葉斯定理的解讀，往往因?yàn)槟承├斫馍系木窒扌裕@得過于狹隘。

太多人將貝葉斯定理的魅力，僅僅歸功于其精巧的數(shù)學(xué)形式，卻忽略了其背后宏大的推理哲學(xué)與決策智慧。

但事實(shí)上，貝葉斯定理遠(yuǎn)不止是數(shù)學(xué)。

它是一種推理框架，定義了證據(jù)如何塑造信念；

它是一種決策科學(xué)，權(quán)衡著概率與代價(jià)；

它最終是一種理性哲學(xué)，教會(huì)我們?cè)谝粋€(gè)充滿未知的世界里，如何謙遜而智慧地前行。

并且我堅(jiān)信，一個(gè)人只有在“決策、創(chuàng)業(yè)、投資”等方面經(jīng)歷過切膚之痛，才能夠真正理解貝葉斯的哲學(xué)。

下面，讓我從一個(gè)經(jīng)典的寓言開始，來講述 貝葉斯定理的迷惑與奇妙。

一

伊索寓言里的“孩子與狼”，講的是一個(gè)小孩每天到山上放羊，山里時(shí)常有狼出沒。

第一天，也許只是為了好玩兒，他喊：“狼來了！”，村民聞聲趕來打狼，卻發(fā)現(xiàn)沒狼；

第二天仍然如此，村民們開始心生不爽；

第三天，狼真的來了，可不管小孩怎么喊，再也沒有人來救他。

這是一個(gè)關(guān)于撒謊、信任和事不過三的經(jīng)典故事。

在一本還算不錯(cuò)（但在微信讀書里推薦程度僅為50%）的書籍《概率：人生的指南》里，一位專業(yè)人士，用貝葉斯公式來分析此寓言中村民對(duì)這個(gè)小孩的可信程度是如何下降的。

略去計(jì)算，我來講述一下貝葉斯的推理過程：

放羊娃與村民之間，靠著孩子的嗓門，維系著一套脆弱的預(yù)警系統(tǒng)。

在故事開始前，我們可以想象，村民們對(duì)這個(gè)孩子有一個(gè)基本的“信任賬戶”。

他們或許覺得：“這孩子平日里活潑調(diào)皮，但終究是個(gè)好孩子，十句話里總有八句是真的。”

好了，現(xiàn)在故事開始了。

第一天，山上傳來聲嘶力竭的呼喊：“狼來了！狼來了！”

村民們丟下鋤頭，扛起扁擔(dān)，氣喘吁吁地沖上山。結(jié)果發(fā)現(xiàn)被耍了。

傍晚，村里的智者坐在火堆旁，開始了他人生中第一次“貝葉斯思考”。

他心里盤算著：“今天發(fā)生了一件確鑿無疑的事——孩子說了謊。這個(gè)‘證據(jù)’，會(huì)如何改變我們對(duì)他的看法？”

他的內(nèi)心獨(dú)白是這樣的：

“一個(gè)‘好孩子’偶爾說謊的可能性（10%）遠(yuǎn)低于一個(gè)‘壞孩子’說謊的可能性（50%）。今天他確實(shí)說了謊，這件證據(jù)，大大增加了他是‘壞孩子’的嫌疑。”

他不需要復(fù)雜的公式，只需要一個(gè)直覺的權(quán)衡。

當(dāng)然，如果我們非要用貝葉斯來精確計(jì)算，會(huì)發(fā)現(xiàn)孩子的可信度，已經(jīng)從最初80%，斷崖式下跌到了44.4%。計(jì)算過程如下：

已知條件

• P(B)= 0.8 (孩子可信的初始概率)

• P(~B)= 0.2 (孩子不可信的初始概率)

• P(A|B)= 0.1 (一個(gè)可信的孩子說謊的概率)

• P(A|~B)= 0.5 (一個(gè)不可信的孩子說謊的概率)
  

計(jì)算公式

P(B｜A)＝P(B）P(A｜B)/［ P(B)P(A｜B)＋P(～B)P(A｜～B)］＝0.8×0.1/(0.8×0.1＋0.2×0.5)＝0.444

第二天，同樣的呼喊再次響起。

這一次，上山的村民少了一半。而結(jié)果，也和昨天一模一樣。

如果說第一次是失望，這一次，村民們心中涌起的，就是憤怒和鄙夷了。信任的“賬戶”，在昨天被取走一大半之后，今天又被狠狠地鑿了一筆。

經(jīng)過貝葉斯這位“冷酷會(huì)計(jì)師”的再次計(jì)算，孩子在村民心中的可信度，已經(jīng)跌至13.8%。(計(jì)算原理同上，我建議你重新驗(yàn)證一下。)

所以，當(dāng)第三天狼真來了，不管孩子怎么呼喊，村民也無動(dòng)于衷。

我第一眼看到用貝葉斯來分析“狼來了”，感覺還是很精彩且生動(dòng)的。

貝葉斯定理，在此刻完美地解釋了村民們的冷漠——它深刻地剖析了信任是如何被經(jīng)驗(yàn)一步步蠶食殆盡的。

可再一想，問題來了：

就結(jié)果而言，不管村民們?nèi)绾螒岩珊⒆拥恼\(chéng)實(shí)，但狼的確來了。

在《伊索寓言》里，也說了孩子放的是村里的羊，這些羊大多都被狼吃了。村民們可謂損失慘重。

然而，一個(gè)令人脊背發(fā)涼的問題也隨之浮現(xiàn)：寓言的結(jié)局我們都知道，第三天，狼真的來了。

于是，村民們遵循著一套看似無懈可擊的理性邏輯，卻最終導(dǎo)向了一個(gè)堪稱災(zāi)難性的結(jié)局。

這個(gè)古老的故事，教育人們不要撒謊。但是其結(jié)果，遭受懲罰的其實(shí)是村民。

而且，他們的推理方法，還是了不起的貝葉斯定理。

問題出在哪兒？

二

難道是貝葉斯這個(gè)偉大的定理本身有缺陷嗎？

當(dāng)然不是。

這個(gè)流傳千年的寓言，其悲劇的根源，并非孩子的謊言，而是村民們自身。

他們（以及許多貝葉斯理論的初學(xué)者）混淆了兩個(gè)至關(guān)重要卻截然不同的概念：

用概率“描述”一種心理狀態(tài)，和用概率“指導(dǎo)”一個(gè)最優(yōu)決策。

概括而言：

村民們用貝葉斯概率懷疑孩子的誠(chéng)實(shí)程度，這沒錯(cuò)；

但是如果他們根據(jù)這個(gè)懷疑程度來輕易做決策，麻煩就大了。

那個(gè)熊孩子撒謊的概率很大，這并不等于狼真沒來。

因?yàn)椋且坏┱鎭砹耍仁歉怕蕵O低，其后果也是致命的。

我又說到了一個(gè)老生常談的概率問題，但這個(gè)問題偏偏令最聰明的人也會(huì)犯迷糊，尤其是在充滿不確定性的現(xiàn)實(shí)世界。

勝率很重要，賠率也很重要。

讓我們回到“狼來了”的貝葉斯。

作為一套描述工具，它在“狼來了”的案例中表現(xiàn)得堪稱完美。

它精準(zhǔn)地模擬了“信任”這種主觀信念，是如何被客觀經(jīng)驗(yàn)所量化、所動(dòng)搖、所摧毀的。

從80%到44.4%，再到13.8%，這個(gè)數(shù)字的衰減，就是村民們內(nèi)心從“信任”到“懷疑”再到“鄙夷”的心理畫像。

從這個(gè)角度看，用貝葉斯來解釋村民的懷疑和冷漠，是深刻且精彩的。

然而，致命的裂痕，就出現(xiàn)在這里。村民們犯了一個(gè)天大的錯(cuò)誤：

他們將一個(gè)關(guān)于信念的概率評(píng)估，直接等同于一個(gè)關(guān)于行動(dòng)的最終決策。

一個(gè)真正理性的決策，不僅要問：“什么事最有可能發(fā)生？”，更要問一個(gè)性命攸關(guān)的問題：

“如果我錯(cuò)了，會(huì)怎么樣？”

這，就是決策科學(xué)的核心。

它要求我們必須將事件發(fā)生的概率與該事件的后果——也就是經(jīng)濟(jì)學(xué)里說的“效用”或“代價(jià)”——相乘，來衡量真正的風(fēng)險(xiǎn)。

讓我們回到寓言故事里。

村民們面臨的，是一個(gè)代價(jià)極度不對(duì)稱的抉擇：

• 如果上山，結(jié)果沒狼（判斷失誤）：代價(jià)是什么？一點(diǎn)點(diǎn)被戲弄的煩惱，以及半個(gè)下午的勞作時(shí)間。這是“微小的損失”。

• 如果不上山，結(jié)果有狼（判斷失誤）：代價(jià)是什么？整個(gè)村子的羊群被吞噬，孩子可能喪命。這是“毀滅性的損失”。

村民們的“理性”模型里，只有關(guān)于孩子可信度的概率變量，卻完全沒有引入“損失”這個(gè)變量。

就像現(xiàn)在流行說的“要做大概率正確的事情”一樣過于簡(jiǎn)單了。

村民在做決策時(shí)，犯了一個(gè)“結(jié)果均勻”的錯(cuò)誤，仿佛“白跑一趟”和“羊被吃光”的代價(jià)是均等的。

這就像一個(gè)醫(yī)生，因?yàn)椴∪擞?9%的概率是普通感冒，就完全忽略那1%的致命疾病的可能性，直接讓病人回家喝水一樣荒謬。

所以，在“狼來了”的故事里，貝葉斯定理精準(zhǔn)地完成了它的本職工作——評(píng)估了信源（孩子）的可靠性。但村民們卻用這個(gè)“信源可靠性”的結(jié)論，直接決定了他們對(duì)“信息（狼來了）”的行動(dòng)。

他們沒有意識(shí)到，一個(gè)完整的理性決策，應(yīng)該是一個(gè)兩步過程：

首先，用貝葉斯等工具判斷各種可能性；

然后，必須用決策科學(xué)的框架，去權(quán)衡不同可能性背后的代價(jià)。

尤其是在充滿了不對(duì)稱性的現(xiàn)實(shí)世界里，我們決策的重心，不僅要“追求最高概率更大回報(bào)的成功”，更要“避免最致命的失敗”，哪怕后者概率很小。

因?yàn)檎嬲娘L(fēng)險(xiǎn)，從來不是小概率事件本身，而是“小概率”與“大代價(jià)”的致命乘積。

三

如上論述，讓我想起了神經(jīng)網(wǎng)絡(luò)之父杰弗里·辛頓的傳奇往事。

在神經(jīng)網(wǎng)絡(luò)最黑暗、最低谷的歲月里，這個(gè)領(lǐng)域的開創(chuàng)者們幾乎被整個(gè)學(xué)術(shù)界拋棄。

當(dāng)時(shí)AI處于寒冬，神經(jīng)網(wǎng)絡(luò)更被主流視為毫無前途的偽科學(xué)，以至于辛頓和他的少數(shù)同行者，不得不另起一個(gè)“深度學(xué)習(xí)”的名字，以免被人當(dāng)作不務(wù)正業(yè)的瘋子。

據(jù)說，當(dāng)辛頓去求職時(shí)，一位用懷疑眼光看著他的系主任，得知他的計(jì)算機(jī)和數(shù)學(xué)背景都“不咋樣”，內(nèi)心幾乎毫無波瀾，招募他的概率趨近于零。

可是，就在決策的最后一刻，這位系主任的腦海中，突然冒出了一個(gè)念頭：

“萬一……萬一這個(gè)瘋子是對(duì)的呢？”

我憑借記憶復(fù)述了這個(gè)故事，細(xì)節(jié)也 許有出入。但是我格外喜歡這種窮途末路的天才的救贖故事。

自 1956 年達(dá)特茅斯會(huì)議吹響“智能機(jī)器”號(hào)角，人們極度樂觀，連理性如香農(nóng)也認(rèn)為AI很快會(huì)有大突破。--然而狼并沒有來。

60 年代的符號(hào)主義、80 年代的專家系統(tǒng)、90 年代的類腦芯片，無一不是在盛大的喧嘩后歸于沉寂。

AI 社群就像那座山坡——每隔十年便有人高喊“狼來了”。

于是學(xué)術(shù)資金抽離、研究者轉(zhuǎn)行，“AI 冬天”成為寒氣刺骨的俗語(yǔ)。

人們學(xué)會(huì)了嘲諷：“別擔(dān)心，人工智能永遠(yuǎn)在未來。”

這正是貝葉斯先驗(yàn)被一次次 負(fù)證據(jù)挫傷的結(jié)果——可信度不斷稀釋，直至只剩下象牙塔里幾盞微弱的臺(tái)燈--也許是因?yàn)樾令D等人的偏執(zhí)，一直頑強(qiáng)地亮著。

我們來看看那位了不起的系主任，他扮演了“狼來了”寓言里那個(gè)更聰明的村民。他精確地評(píng)估了代價(jià)的極端不對(duì)稱性：

• 如果招了他，而他錯(cuò)了：損失不過是一個(gè)教職的薪水和幾年的耐心。這是一次“白跑上山”。

• 如果沒招他，而他對(duì)了：損失的，將是與一位開創(chuàng)一個(gè)時(shí)代的科學(xué)巨匠、一位未來的圖靈獎(jiǎng)得主擦肩而過的機(jī)會(huì)。這是一個(gè)學(xué)術(shù)機(jī)構(gòu)所能犯下的、最無法估量的、歷史性的錯(cuò)誤。這是一整個(gè)“被狼吃掉的羊群”。

這種思維方式，我稱之為"反向貝葉斯思維"。

它不是拋棄概率分析，而是在概率分析的基礎(chǔ)上，加入了對(duì)"錯(cuò)失機(jī)會(huì)成本"的深度考量。

四

現(xiàn)在，讓我們帶著“反向貝葉斯思維”，重新審視我們這個(gè)時(shí)代。

直到最近幾年，研究者和企業(yè)家們又喊出了AGI的超級(jí)大狼。

AGI會(huì)實(shí)現(xiàn)嗎？

星際之門未來四年5,000億美元的投資值得嗎？

Meta用一兩個(gè)億美金的天價(jià)挖人瘋狂嗎？

我個(gè)人對(duì)AGI在三五年內(nèi)實(shí)現(xiàn)持保留態(tài)度。但我贊成，一旦AGI實(shí)現(xiàn)，可能會(huì)帶來至少1024倍以上的生產(chǎn)力大爆炸。

這像是反向貝葉斯思維的終極考驗(yàn)。

傳統(tǒng)的貝葉斯分析會(huì)告訴我們：

經(jīng)歷了無數(shù)次AI的"虛假警報(bào)"，這次ChatGPT引發(fā)的狂熱，大概率又是一個(gè)會(huì)破滅的泡沫。理性的投資者應(yīng)該計(jì)算歷史上AI泡沫的破裂概率，然后得出"謹(jǐn)慎觀望"的結(jié)論。

但反向貝葉斯思維要求我們問一個(gè)更殘酷的問題：

如果這次我們猜錯(cuò)了，AGI真來了，該怎么辦？

想象一下：

如果AGI真的在2027年實(shí)現(xiàn)，那些在2024年還在用歷史經(jīng)驗(yàn)來"理性分析"的個(gè)人、企業(yè)和國(guó)家，將面臨怎樣的命運(yùn)？

也許，他們不會(huì)僅僅是"損失一些投資"，而是會(huì)被一個(gè)全新的文明形態(tài)徹底拋棄。

這種代價(jià)，不是金錢可以衡量的，而是存在性的。

就像那些羊群和孩子的命運(yùn)一樣，一旦真正的“狼”來了，牌桌就會(huì)被掀翻，再也沒有重新下注的機(jī)會(huì)。

這揭示了反向貝葉斯思維的核心洞察：

在一個(gè)呈現(xiàn)指數(shù)級(jí)、非線性變化的“胖尾”世界里，我們最大的風(fēng)險(xiǎn)，永遠(yuǎn)不是反應(yīng)過度，而是反應(yīng)不足。

這本質(zhì)上是現(xiàn)代版的“帕斯卡賭注”。

帕斯卡論證說，即使上帝存在的概率極小，但信仰上帝的潛在收益（永恒的天堂）是無限的，而不信的潛在損失（永恒的懲罰）也是無限的，因此，一個(gè)理性的人應(yīng)該選擇“下注”于信仰。

AGI，就是我們這個(gè)時(shí)代的“帕斯卡賭注”。

• 下注AGI并失敗了：我們損失的是千億、萬億美金的投資。這是一個(gè)巨大的、但有限的代價(jià)。

• 不下注AGI而它成功了：我們錯(cuò)失的是一個(gè)“1024倍生產(chǎn)力”的新世界，是被甩在后面的、無法估量的、無限的代價(jià)。

當(dāng)代價(jià)的一端趨于無限時(shí)，概率的權(quán)重就變得微不足道了。

此時(shí)，決策的本質(zhì)不再是預(yù)測(cè)，而是對(duì)賭——對(duì)賭的不是“它會(huì)不會(huì)發(fā)生”，而是“萬一它發(fā)生，我是否還在牌桌上”。

當(dāng)文明的“相變”奇點(diǎn)臨近時(shí)，選擇“留在原地”，會(huì)不會(huì)本身就是最極端、最致命的冒險(xiǎn)？

最后

我很早就對(duì)A I，尤其是基于神經(jīng)網(wǎng)絡(luò)的AI甚感興趣，但算不上那種極度虔誠(chéng)的“AI原教旨主義者”。

所謂AI原教旨主義者，可能也要分兩種 ：

一種是基于對(duì)未來的預(yù)判的；

一種是辛頓這類將人生建立在“差異化的信仰”之上。

貝葉斯定理，之所以很晚才被大眾接納，是因?yàn)橄鄬?duì)于頻率派概率，貝葉斯將概率視為某種“信念”，這看起來有點(diǎn)兒主觀且草率。

人們經(jīng)常會(huì)混淆信念和信仰。

我喜歡凱恩斯的一句話：

“我絕不會(huì)為了我的信仰而獻(xiàn)身，因?yàn)槲铱赡苁清e(cuò)的。”

這句話，倒是對(duì)“信念”的極佳闡釋：

我對(duì)明天天氣的信念是，天晴的概率為90%。但是如果下雨了，我也不會(huì)意外。只是下一次也許我要更新我對(duì)關(guān)于晴天的信念。

現(xiàn)在，我們正處于一個(gè)微妙的時(shí)刻：

一方面，似乎市場(chǎng)（例如納斯達(dá)克）醞釀著一個(gè)大空頭式的機(jī)會(huì)；

另一方面，AI又在掀起“這一次不一樣”的生產(chǎn)力革命。

前者，關(guān)乎 “歷史總在重復(fù)”，說的是貪婪和泡沫總會(huì)受到懲罰；

后者，關(guān)乎“這一次不一樣”，說的是AGI的實(shí)現(xiàn)也許會(huì)拯救一切經(jīng)濟(jì)和社會(huì)問題。

這兩只“狼來了”，到底哪個(gè)會(huì)實(shí)現(xiàn)？

二者在不可預(yù)知的未來平行世界里，誰會(huì)占上風(fēng)？

對(duì)普通人而言，也許要重新思考古老的“狼來了”的故事，用反向貝葉斯思維，計(jì)算各種可能性的收獲與代價(jià)。

對(duì)于那些小概率、但是后果很嚴(yán)重的事件，我們有時(shí)寧可信其有，甚至高估，從而多加防范；

對(duì)于那些小概率、然而收益極其巨大的爆炸性機(jī)遇，也許我們可以拿出自己5%-10%的本錢，適當(dāng)下小注，為未來買一張門票。

畢竟，萬一那幫被我們視為“瘋子”的人，將來干成了呢？

（完）

類似的有趣話題，

在“孤獨(dú)大腦.AI決策島”還有很多。

分享決策、投資、哲學(xué)的深度思考，

現(xiàn)已有2000多位優(yōu)秀朋友，邀你加入！