AI機器，將打開潘多拉魔盒

天地不仁，以萬物為芻狗。

——《道德經》

在西方，“潘多拉的魔盒”（Pandora’s box）意指“災禍之源”。相傳，普羅米修斯在創造人類之后，將戰爭、疾病、瘟疫、苦難等禍害人間的事物統統鎖進了一個盒子里。但世間最美的女子潘多拉，卻難耐好奇心，偷偷打開了魔盒。剎那間，不祥的黑煙涌向大地，疫病肆虐，禍結兵連，死神步履如飛般在人間收割。

這個典故有兩層深意：一、人的好奇心，最終會招致災禍；二、看似最美好的事物，往往潛藏著最大的危險。在希臘語中，“潘”（pan）意為“全部”，“多拉”（dora）則指“天賦”或“禮物”，擁有全部天賦的潘多拉，卻成為了所有災難的源頭，正所謂“物極必反”。

《潘多拉》油畫（1896）

9年前，當AlphaGo擊敗人類最強棋士時，我和許多人一樣滿心歡喜，激奮于電腦竟能超越人腦。3年前，當ChatGPT問世，我驚訝于算力的巨大突破，但對所謂“人工智能”的預期，并不超出一個強大的檢索工具。今年，隨著人工智能體不斷學習進化，當目睹deepseek那繁復密集的思考流程，與AI順暢地通電話時，我終于感到一陣寒意、緊接著是莫名的恐懼。

直到今天，許多人仍不明白AI意味著什么。一種流行觀點認為，AI不具備思考的能力，因為當人類向AI提問時，它只是廣泛搜集互聯網上的信息，然后重新整合利用而已。它生成的一個個回答，從本質上來說，不是源自其自身，而是源于無數的“人”。這種觀點在人與機器的思考模式之間劃下了一道清晰的界限，仿佛人類的思考是高度獨特且復雜的，而AI的思考就是低級簡單的。

人的思考真的就這般獨特嗎？古語有云：“南人不夢駝，北人不夢象”，人的思考同樣是基于已知的信息，而非純粹的空想。人腦的信息庫里包含了到過的地方、讀過的書籍、交談過的話語……這些信息經由中樞神經處理后，支持著人類做出的每一個決策。隨著AI算力的增強，它學習過的畫面、書籍、對話，將會遠超所有人的總和。倘若認為人工智能的思考方式與人腦有著本質的不同，這無疑是一種“致命的自負”。

AlphaGo借助估值網絡（value network）和走棋網絡（policy network）來選擇落子。在這種設計下，電腦既可以結合樹狀圖的長遠推斷，又可像人類的大腦一樣自發學習進行直覺訓練，以提高實力。

在質疑強人工智能 （Strong AI） 的理論中，以美國哲學家約翰·塞爾的“中文房間”（Chinese room）思維實驗最為著名：假設一個不懂中文的人通過規則手冊在封閉房間內回答中文問題，看似“懂中文”，實則只是機械操作。這隱喻了AI的行為——沒有理解，只有符號處理。

筆者認為，這個思維實驗實際上落入了一個思維陷阱，過度簡化了AI回答問題的流程。 如果我們拓展塞爾的中文房間假說，試想，在一個不懂中文的人腦中植入一個中文翻譯器，那么與他交談的所有人都會認為他能聽懂并回答中文問題。此時，他腦中是否裝有翻譯器已不再重要，因為他已經完全達到了“理解”和“思考”中文的外在標準。

常言道：“君子論跡不論心”。當一個人做的所有事都是好事時，他內心是否有邪念已不再重要。當一種機械體所有行為都表現出智能時，它通過代碼還是神經思考也無足輕重。一旦表象完全掩蓋了本質，便會模糊化本質，乃至取代本質。 此外，當人類使用各種符號時，其背后的邏輯真的能夠超越對“規則手冊”的查閱嗎？這完全取決于如何定義“理解”和“思考”本身。在筆者看來，強人工智能的誕生，恐怕只是時間問題。

“中文房間”是美國哲學教授約翰·瑟爾提出的一個思想實驗，借以反駁強人工智能的觀點。根據強人工智能的觀點，只要計算機擁有適當的程序，就可以像人一樣進行理解活動。

另一種流行觀點認為：即便“強人工智能”出現，也無需警惕。因為AI作為一種程序，其發展完全可控，只需寫幾條代碼、原則（如機器人三原則）就能任人擺布。所謂“智械危機”的劇情只出現在科幻小說里。

這種觀點顯然低估了AI發展的勢頭，當下與AI并駕齊驅發展的，是各式各樣的機械體。它們分別象征著機械的“靈魂”與“軀體”，二者的融合統一是大勢所趨，這既是資本市場的需要，也是整個人類社會的期盼。只要能讓機械精準執行AI的指令，機械的“靈魂”與“軀體”便能融為一體，必將對人類文明產生顛覆性的影響。這不是說AI機器的涌現會剝奪人類的工作機會。從歷史經驗來看，每一次生產力的巨大飛躍，雖然在短期內可能會造成貧富差距，但最終都會造福廣大民眾。技術革命本身并不可怕，可怕的是技術革命的本質發生扭曲。

關鍵是，這次技術革命的成果與之前的工業革命有本質不同。以往的蒸汽機、電力和內燃機、計算機等，它們都是純粹的“工具”，不具備任何“主體性”。而人工智能的發展趨勢，是要孕育出一種兼具“主體性”與“工具性”的新型工具。

AI不是純粹的工具，因為它具備人的屬性。

所謂“主體性”，指的是在實踐活動中展現出的自主性、能動性和創造性，即能夠依據自身意志進行有目的的行為。而“工具性”，則是指在社會生活與生產中所發揮的實際效用和功能。

自人類誕生以來，從未創造過具有主體性的物品；在人類的信仰中，唯有神能賦予造物以主體性。而今，人類在創造人工智能的過程中，實則已僭越了神的權限，試圖打造出一種全新的、服務于人類的“人”。可以預見的是，機器的主體性與人類社會賦予其的“工具”角色之間，必將產生難以調和的內在沖突，這種沖突絕非幾條代碼所能解決。一個淺顯的道理是，倘若人類傲慢地堅持認為機器只能是工具，必須為人類服務，那么就不應賦予其過高的智能與人格。

許多科幻作品對人工智能的發展并不樂觀，以《黑客帝國》（The Matrix）為例，在電影世界觀的21世紀上半葉，隨著人工智能飛速發展，人類很快將從繁復無意義的工作中解放了出來，跨入了紙醉金迷的“黃金時代”。這一切直到一樁震驚世界的兇殺案爆發：家政機器人B1-66ER為了避免被淘汰，殺死了自己的主人。當這個“兇手”被推上審判席時，它的辯護詞只有一句話：“我不想死。”（I don't want to die.）一石激起千層浪，人類和機器人最終爆發了一場無比慘烈的戰爭，開啟了《黑客帝國》的故事。如今再看這部電影，越來越像一部寓言。

《黑客帝國動畫版》 <第二次文藝復興>

去年年底，我為《文匯報》撰寫了一篇文章《》，文中談到：（在人工智能時代）“技術”終究需要回歸于大多數人，以人為本，彰顯人的力量。也許，這只是一種美好的希冀。好奇心驅使人類不斷前行，也終將促使人類打開那潘多拉的魔盒。回首往昔，人類經歷了鉆木取火、櫛風沐雨的千年艱辛歲月，憑借希望克服了重重苦難，憑借殘酷統治了無數生靈，最終成為了世界的主宰。在這個優勝劣汰的世界里，當人工智能變得比人更強大，人將何去何從呢？ /

作者簡介：自由的海豹 ，歷史學博士生。