面對(duì)AI和無(wú)人快遞車，我終于讀懂了“電車難題”里最深的恐懼

最近在思考一個(gè)經(jīng)典的問(wèn)題。

電車難題。

這個(gè)問(wèn)題大家或多或少都聽過(guò)：一輛失控的電車沖過(guò)來(lái)，主軌道上綁著100個(gè)人，備用軌道上綁著1個(gè)人。

你手里握著變道閘機(jī)，拉還是不拉？

乍一看，這簡(jiǎn)直就是一道送分的小學(xué)數(shù)學(xué)題。

100大于1，這還用想嗎？

犧牲一個(gè)人救一百個(gè)，也就是那個(gè)著名的詞兒——性價(jià)比。

我們先得搞清楚，思考這個(gè)問(wèn)題的目的是什么？是為了在網(wǎng)上跟杠精對(duì)線贏了嗎？

顯然不是。

是為了道德準(zhǔn)則的建立，本質(zhì)上是為了讓人類這個(gè)集體過(guò)得更幸福、更穩(wěn)定。

既然是為了幸福，很多人就會(huì)說(shuō)：“那更得拉閘了啊！100個(gè)家庭的幸福顯然大于1個(gè)家庭的幸福，這是集體利益最大化。”

這就是典型的功利主義（Utilitarianism）思維。在他們的眼里，世界是一個(gè)巨大的賬本，人是可以被換算成數(shù)字的。

但這恰恰是最大的陷阱。

一旦你接受了100條命 > 1條命這個(gè)設(shè)定，你就承認(rèn)了一個(gè)可怕的前提：生命是可以被量化的。

大家別小看這個(gè)量化。只要開了這個(gè)口子，潘多拉的魔盒就打開了。

如果數(shù)量可以比較，那么質(zhì)量是不是也可以比較？

大家想一下，如果那1個(gè)人是像愛因斯坦那樣的頂級(jí)科學(xué)家，或者是你最親的家人；而那100個(gè)人全是窮兇極惡的連環(huán)殺人犯。

你還覺得100 > 1嗎？

這時(shí)候大多數(shù)人肯定會(huì)猶豫，甚至反水：“那肯定保科學(xué)家啊，殺人犯死不足惜。”

看吧，當(dāng)你開始計(jì)算的那一刻，你就已經(jīng)不再把人當(dāng)人看了，你把人當(dāng)成了商品。

既然是商品，就有貴賤，就有優(yōu)劣。

社會(huì)學(xué)家把這個(gè)過(guò)程叫做人的物化。

一旦社會(huì)接受了這種邏輯，結(jié)局注定是災(zāi)難性的。因?yàn)樵谶@個(gè)評(píng)價(jià)體系里，總有人會(huì)被定義為低價(jià)值人口。

富人會(huì)覺得自己的稅收貢獻(xiàn)大，所以自己的命比窮人貴；高智商的人會(huì)覺得笨蛋浪費(fèi)糧食。

如果這種邏輯成為社會(huì)共識(shí)，那么在醫(yī)療、教育、資源分配上，弱勢(shì)群體將被理所當(dāng)然地犧牲掉。

這里不得不請(qǐng)出哲學(xué)界的一尊大神——康德。

在電車難題上，康德老爺子估計(jì)會(huì)氣得從棺材板里跳出來(lái)敲你的頭。他有一句振聾發(fā)聵的名言，也就是康德主義（Kantianism）的核心立場(chǎng)：人是目的，而非手段。

什么意思？

意思是說(shuō)，任何人的生命本身就是至高無(wú)上的終極目的，你不能為了達(dá)成別的什么目的（哪怕是救更多的人），而把一個(gè)人當(dāng)作工具或墊腳石來(lái)使用。

在電車難題里，如果你不拉閘，那100個(gè)人的死是失控電車造成的，是那個(gè)綁架犯造成的，不是你造成的。

你只是一個(gè)無(wú)辜的旁觀者。

但如果你拉了閘，性質(zhì)就全變了。

你把那個(gè)無(wú)辜的人當(dāng)成了手段。單方面剝奪了他生存的權(quán)利。

這就好比說(shuō)，醫(yī)院里有5個(gè)病人分別需要心臟、肝臟、腎臟等器官，能不能在大街上隨便抓一個(gè)健康的路人，把他嘎了，拆零件救這5個(gè)人？

按數(shù)學(xué)題算，1死救5，賺了啊。

但如果這事兒能干，咱們誰(shuí)都別想睡安穩(wěn)覺了。因?yàn)槟阌肋h(yuǎn)不知道哪天走在街上，會(huì)不會(huì)被判定為那個(gè)為了集體利益必須犧牲的耗材

道德之所以存在，不是為了服務(wù)于冰冷的數(shù)字，而是為了保護(hù)每一個(gè)具體的、活生生的人不被隨意犧牲。

這時(shí)候肯定有人會(huì)說(shuō)：你這就有點(diǎn)太理想主義了，現(xiàn)實(shí)社會(huì)里，為了大局犧牲小局的事兒還少嗎？

沒錯(cuò)，這正是我想說(shuō)的第三層邏輯。

在真實(shí)世界里，我們每天都在面對(duì)弱化版的“電車難題”。

比如，化工廠建在人口密集的大城市還是人口稀疏的小縣城？

比如，城市建設(shè)要不要為了盲人修盲道，哪怕這會(huì)擠占正常人的行走空間？

比如，科技飛速發(fā)展，要不要停下來(lái)等一等那些不會(huì)用智能手機(jī)的老人？

如果你在電車難題里毫不猶豫地選擇了犧牲那一個(gè)，那么在現(xiàn)實(shí)中，你大概率也會(huì)支持把化工廠建在窮鄉(xiāng)僻壤，支持取消盲道，支持讓老人被數(shù)字時(shí)代拋棄。

因?yàn)槟愕倪壿嬍峭ㄓ玫模簽榱舜蠖鄶?shù)人的便利，少數(shù)人是可以被犧牲的。

這就導(dǎo)致了一種叫多數(shù)人的暴政。

當(dāng)你認(rèn)可多數(shù)人的價(jià)值高于少數(shù)人時(shí)，社會(huì)就會(huì)瘋狂地向頭部集中，向大多數(shù)集中。那些處于邊緣的、弱勢(shì)的、聲音小的群體，他們的利益會(huì)被無(wú)情碾壓。

但大家別忘了，在這個(gè)世界上，沒有任何人永遠(yuǎn)屬于大多數(shù)。

你在年齡上是年輕的大多數(shù)，可能在財(cái)富上就是貧窮的少數(shù)；你在身體上是健康的大多數(shù)，可能在某種觀點(diǎn)上就是不被理解的少數(shù)。

如果犧牲少數(shù)成為公理，那么當(dāng)屠刀揮向你的那一天，將沒有人為你說(shuō)話。

所以，我們?yōu)槭裁匆晟频赖聦W(xué)？為什么要死磕這個(gè)難題？

就是為了打破這種功利主義的詛咒。

我們要建立的社會(huì)，不是一個(gè)為了100個(gè)人可以理直氣壯弄死1個(gè)人的社會(huì)；而是一個(gè)哪怕為了1個(gè)人，也要想辦法保全，而不是簡(jiǎn)單粗暴地讓他去死的社會(huì)。

前文說(shuō)了，不能把人命標(biāo)價(jià)。其實(shí)從數(shù)學(xué)角度看，這個(gè)結(jié)論也是鐵板釘釘?shù)摹?/p>

生命的價(jià)值是多少？在人文主義的語(yǔ)境下，生命的價(jià)值是無(wú)窮大（infty）。

學(xué)過(guò)高等數(shù)學(xué)的朋友都知道一個(gè)基本常識(shí)：無(wú)窮大 和 100個(gè)無(wú)窮大，是不能比較大小的。

你不能說(shuō)100個(gè)人的命就比1個(gè)人的命更大。當(dāng)你試圖做減法，認(rèn)為“死了1個(gè)比死了100個(gè)損失小”的時(shí)候，你其實(shí)是在把無(wú)窮大退化成了有限的常數(shù)。

這里肯定有人說(shuō)：“照你這么說(shuō)，那殺人犯的命也是無(wú)價(jià)的？難道不該死？”

這又混淆了一個(gè)概念。

我們說(shuō)生命無(wú)價(jià)，指的是作為自然人的生存權(quán)。殺人犯之所以該死，是因?yàn)樗绕茐牧艘?guī)則，剝奪了別人的生命。法律審判他，是為了維護(hù)契約和正義，而不是因?yàn)樗拿恢靛X。

正義的懲罰與功利的犧牲，是完全兩碼事。

說(shuō)了這么多，其實(shí)回到最開始的問(wèn)題。

為什么要死磕這個(gè)看似無(wú)解的電車難題？是為了在鍵盤上贏過(guò)別人嗎？

不是。是因?yàn)槟莻€(gè)電車，其實(shí)已經(jīng)開到了我們面前。

它的名字，叫AI。

說(shuō)實(shí)話，這種焦慮最近我也越來(lái)越強(qiáng)。記得從去年開始，我在街上溜達(dá)，看到滿街跑的都是無(wú)人快遞車，不知疲倦，不需要五險(xiǎn)一金，也不會(huì)因?yàn)槭倭怂湾e(cuò)快遞。

那一刻我有種很深的恍惚感：如果按照功利主義的那套邏輯，人類是不是已經(jīng)輸了？

大家想想，如果我們堅(jiān)持價(jià)值論——即一個(gè)人的價(jià)值取決于他能創(chuàng)造多少財(cái)富、能干多少活。那么，在AI面前，我們絕大多數(shù)人都是那個(gè)應(yīng)該被犧牲的少數(shù)。

AI比你聰明，比你效率高，比你便宜，比你聽話。

如果社會(huì)遵循的是誰(shuí)效率高誰(shuí)留下，誰(shuí)沒用誰(shuí)去死的社會(huì)達(dá)爾文主義，那等AI完全成熟的那一天，我們這些低算力的碳基生物，將變得一文不值，理應(yīng)被掃進(jìn)歷史的垃圾堆。

這才是最恐怖的事情，就像馬斯克說(shuō)的那樣，我們碳基生物存在的目的就是為了開啟硅基文明。

我們?cè)陔娷囯y題里如果不假思索地認(rèn)可了“為了更大的利益可以犧牲個(gè)體”，那我們就是在給未來(lái)的自己挖墳?zāi)埂?/p>

因?yàn)樵贏I這個(gè)龐然大物面前，我們每一個(gè)人，都是那個(gè)弱小的、沒有效率的、擋在軌道上的一個(gè)人。

所以，康德的那句人是目的，而非手段是人類文明最后的防線。

我們的價(jià)值在于感受，在于存在本身，而不在于產(chǎn)出。