劉永謀：技術專家不要瞎忽悠唬外行，社會模擬器不過是高級決策支持系統，而超級對齊主要是效用對齊

*中國人民大學吳玉章 講席教授劉永謀首發于微信公眾號，保留一切知識產權，侵犯必究。

HAI（Human AI）最近成為“AI覺醒”類AI宣傳術最新名詞。簡單地說，它宣稱用AI agent模擬人的行為，然后可以在計算機上模擬社會運行，又可稱之為社會模擬器。通過這樣的模擬，可以發現社會運行規律，從而科學運轉社會。

一句話總結：HAI不能說完全沒用，用處肯定不如想的那么大，或者就是沒多大用處。

我文理工管都學了一點，最后讀的是管理科學與工程博士后，專門做決策理論。HAI本質上就是一種決策支持系統（DSS），利用計算機支持決策行為，70、80年代曾經紅極一時，后來不好用就漸漸沉寂了。細分來說，HAI屬于智能型決策支持系統，處理非結構型決策問題，特點是在DSS中使用機器學習技術，此類系統還有使用專家系統（ES）、主動決策支持技術（ADSS）等的。至于用agent進行模擬決策的想法，在21世紀之交就出現了，這個詞在決策理論中也成為一個常見詞。

插一句，哲學界很多人專門研究agent與subject有什么差別，可根本不知道這個詞起先是個技術名詞，具體有所指的，不用望文生義。

從科學方法角度來說，HAI屬于模型實驗。什么是模型實驗？就是用模型模擬原型，在模型上做實驗看看咋樣，然后假定原型會發生同樣的變化。風洞就是一種模型實驗：用風洞吹飛機，測試它的空氣動力性能，不用讓試飛員冒著生命危險上天飛一次。

計算機模型是如今最常見的模型。社會模擬器本質上就是一種計算機模型。

從社會科學哲學的角度看，HAI屬于社會實驗，最常見的就是政策試點。比如審核制博士招生，人大就是在幾個學院試點，哲學院便是其中之一。社會實驗與自然實驗相比，由于牽涉到人，客觀性、可重復性等各個方面可以說存在著本質性差別。社會實驗的結果只能做個參考，不能當作物理學一樣的定律來預測。

歷史上著名的霍桑實驗，測試用什么辦法可以提高工人效率。后來有人發現不管干啥比如燈光照亮一點，效率都提高，百思不得其解。有工人說，我們聽說要搞實驗，為此有補貼，都努力干活。

這個例子說明社會實驗的局限性。記住：我沒有說社會實驗完全是扯淡，我的意思是社會實驗的價值非常有限。

你想一想：社會實驗還是用真人做實驗。現在你把真人換成AI agent，作用有多大了？之前我多次說到計算機在模擬人、環境和應然狀態的困境，也說過AI agent訓練中技術上的問題。

現在你想一想，就算這些都解決，這也不過是一場電子社會實驗。你能百分百當真嗎？

迷信HAI，吹噓社會模擬器，從根本上還是AI擬人論作怪：把AI agent當人，把一群AI agent當成社會了。于是，妄想控制住AI agent就可以控制社會。這完全是瞎想！

去仔細鉆研一些決策理論、社會科學哲學，你就不會愚蠢到迷信！

超級對齊是最近AI擬人論支配下的另一場愚蠢迷信。超級對齊是對超級AI進行對齊，現在超級AI都沒有影子，就要開始對齊了？尤其是價值對齊概念，人有價值觀，機器有什么價值觀，有什么對齊的？這就是把AI當人，產生了價值對齊的幻想。

在現實中，目前所謂的AI價值對齊主要包括功利主義的效用對齊和道義論道德律令編程兩種進路。什么是效用對齊？學過經濟學、管理學都知道。它值得是消費者或決策者從商品、服務或行為中獲得主觀滿足程度。它既然是主觀的，不同的人、不同的人群對同一件事情、同一個事物的效用評估都不一樣，怎么對齊呢？最終能對齊的，就是經濟利益如現金流量分析、盈虧決策分析等。這就是當年我做決策理論極其失望的地方。

與效用相關有兩個詞。一個是偏好，通常描述消費者在不同商品或服務之間的主觀選擇情緒，是構建消費者行為的核心概念。另一個是期望，值得是對未來結果的概率性預期，主要就是功利主義預期如賺錢還是虧錢。期望指標選擇已經牽扯到應然問題，即創造何種未來的問題。

這樣的效用對齊能算得上價值對齊嗎？本質上，它是功利對齊。

道義論道德律令編程，首先就要對道德律令進行清楚表述。歷史上，許多哲學家嘗試過，應該說都失敗了。道德概念含混不清，比如勇敢，有人說韓信受胯下之辱是大勇。就算界定清楚基本概念，道德概念之間根本沒有辦法通過演繹法形成歐式幾何式的公理系統。只有做到這一點，道德律令編程才能完全走得通。

現在有人用某種價值觀如社會主義核心價值來評估大模型，本質上是升級版的內容審核。你硬要說這是AI價值對齊，那就算吧！

最近出現幾何化價值對齊的新路徑，試圖在拓撲學層面實現價值的“景觀對齊”或“流形對齊”。聽起來非常高大上，實際上是處理不了太精細，干脆來個結構類似。如有人的表述：

我們不應滿足于讓AI模仿人類在表層產生的無數行為數據，而應致力于揭示并復現那個能夠生成所有合乎規范的行為的深層“語法”或“生成文法”。

語言學研究語法，因為有語法。道德現象有語法嗎？道德現象是一種語言現象嗎？類似想法不能說完全荒謬，但是帶有很強的想象色彩。

同樣要記住：我沒有說AI價值對齊完全扯淡，我的意思是AI價值對齊的作用非常有限。

我的主張是：AI工具化、去道德化、去意識化，這就是我的有限人工智能理論的核心觀點。