比“技術性失業”更恐怖的，是“技術性失智”

比“技術性失業”更恐怖的，是“技術性失智”

作者/慧超

（一）

“第一臺超智能機器將是人類的最后一個發明，前提是機器要足以溫順到告訴人類，該如何控制它。”

作為一則預言，1965年英國數學家、密碼學家 I.J. 古德的這句話，已經被眾多科幻電影生動地演繹了一遍又一遍。

這句話亦可作為“智能爆炸”（intelligence explosion）這一概念的核心。這一概念認為，第一臺超智能計算機的誕生，將意味著人類文明的黃昏：

因為它本身已經在智慧和知識儲備方面超越了所有人類，而“超智能”意味著它無時無刻不在自我學習和認知迭代，所以它自己會自行設計并建造下一臺更智能、更強大的“超智能計算機”。

從《終結者》到《我，機器人》中智能終端的覺醒和對人類的反控制，再到《機械姬》和《西部世界》中，智能仿生人的自我意識萌芽及對人類的反抗，所有這些科幻作品反復呈現的劇本，無非是I.J. 古德上面那句話的注腳。

在公眾的認知中，如科幻電影中強大到足以終結人類的AI，仍是一件過于遙遠的事。不過這并不妨礙每一次技術的升級，都能掀起一波輿論和公眾心理層面關于“技術恐懼”的可怖想象。

ChatGPT的橫空出世以及其所帶來的技術層面“劃時代”的躍升，同樣引發了從學界到民間的“技術恐慌”。

“技術性失業”是一個古老的鬼故事，只是這一次，人類遭遇的這只名為ChatGPT的“厲鬼”確實神通廣大。

ChatGPT確實稱得上是“劃時代的產品”，它第一次讓公眾跳出如Siri這類愚笨的“搜索式對話”的舊框架，重新想象AI的能力邊界。

即便只是初代產品，ChatGPT已然能夠通過硅谷年薪18萬美金的工程師招聘考試。不僅如此，它還能幫程序員檢查代碼錯誤，甚至可以自己寫一段代碼，且沒BUG。

ChatGPT不僅可以幫助小學生和中學生，數秒鐘寫出一篇措辭優美的命題作文，北密歇根大學一位學生，甚至依靠ChatGPT寫出了全班最高分的論文。

美國西北大學的一篇研究論文顯示，ChatGPT寫出了令人信服的研究論文摘要，連人類科學家都難以分辨真假。

當然，作為一個襁褓中的“初生兒”，在很多方面ChatGPT依然很笨拙，很稚嫩，在相當多問題的回答中，它都表現的不盡如人意。

但它在未來的應用，以及對人類世界的影響，怎么高估都不為過。

（二）

我相當肯定，以ChatGPT為代表的新一代AI工具，在未來幾十年之內，將相當深刻地改變人類社會和當下的職場分工。

但對于“技術性失業”這樣一個已被摩挲到褪色的古老話題，我沒有再次重復的興趣。

大規模的技術性失業，確實是一個值得社會和政府關注的問題，但在我看來，這并不是最值得警惕的問題。

事實上，公眾和輿論將太多精力聚焦在“技術性失業”之上了，以至于忽略了一個我認為更危險，更值得警惕的問題：

技術性失智。

我絲毫不懷疑，以ChatGPT為代表的AI工具，可以幫助我們更有效率地學習和工作，也能夠幫助人類完成許許多多的“不可能之事”。

但是，是的我要說但是，一個強大的AI工具，它也可能變成一個舒服溫暖且不自知的套子。

創造力、想象力、獨立思考和獨立判斷的能力，會借助一個強大的AI工具獲得質的飛升嗎？

坦白講，我對此持悲觀態度。

我甚至認為，一個無比強大的，無處不在的AI工具，會反向降低個體的創造力、想象力和獨立思考的能力，讓這些稀缺的品質，更稀缺。

我并不是一個“技術悲觀主義者”，相反，我愿意擁抱一切新技術和新創造。

但我仍呼吁社會和公眾警惕某些技術可能帶來的“危害性”，是因為我骨子里有些“人類悲觀主義者”的鈣質。

我總懷疑以人類慣有的瘋批程度，某些偉大的技術革新，不一定將人類引至美好的伊甸園中，恰恰相反，它有可能因為人類本性的自私、狹隘、傲慢和貪婪，把我們推向“地獄”。

（三）

許多年前，《南方周末》刊發了一篇后來被譽為特稿典范之作的報道，文章的標題是一個宏大而模糊的詞匯：《系統》。

這是一篇雄心勃勃的稿子。

它的好既不是揭露了某種不為人知的陰暗，也不是批判了某種需要巨大勇氣才敢觸碰的權力腐敗。

后來這篇稿子獲得了《南方周末》的最高榮譽“總編獎”，授獎詞指向了這篇稿子真正的野心，它是這樣寫的：

“母詞系統的深度發掘，不僅是對現實的有力映射，更是對新聞易碎品屬性的一次掙脫。”

《系統》所著重描寫的，是當時剛剛在中國大陸興起的網絡游戲，以及這些網游玩家們所處的世界。它所深入展現的那款游戲，相信每一個80后都不陌生，即把史玉柱再次送上富豪榜的網游“征途”。

這篇稿子以令人印象深刻的筆觸，描寫了游戲中那個無所不在的“系統”對人的馴化、異化和控制，“隨著人民幣的不斷加速投入，和很多人一樣，呂洋發現，金錢鑄就的，其實是通往奴役之路。”

新聞當事人呂洋是游戲中的“國王”，為了保住這個虛擬的位置，她一個晚上開過上千個箱子，“一天不上線，就會覺得自己又落后了，實在太累了”。幾萬塊人民幣扔進去，連個響聲都聽不見。

這是一個向你承諾可以帶來幸福、快樂、友誼甚至愛情的“新世界”，但當你沉浸于它，卻發現那個你曾極力向往和擁抱的“新世界”，早已褪去夢幻般的光芒，展露出它真正的樣子：

一間囚室。

這些人玩到最后，完完全全淪為了一種工具，非常可憐。呂洋現實中是醫院的B超檢查師，她甚至在醫院的電腦里也下載了游戲客戶端，以便在給患者檢查的間隙掛機、升級。

這些人夜以繼日，犧牲了巨大的時間、精力和金錢，成功地使自己變成了驅動游戲公司利潤的一個齒輪。

至于曾經希望在游戲中獲得的休憩、快樂和新鮮感，早已蕩然無存，只剩下焦慮，虛榮，攀比，仇恨，和近乎無休無止的相互謾罵與PK。

這篇稿子是一個明晃晃的隱喻，不僅僅反映了網絡游戲中“系統”對玩家的馴化和控制，它還指向了一種更宏大，更現實，更無孔不入且無法逃脫的“系統”。

“系統”對人的反馴化無處不在，這個系統可能是一種被精心設計的制度體系，也有可能是一種公眾曾經歡呼擁抱的新技術。

（四）

回到那個問題：

人工智能的普及和應用，可以幫助我們更好的認識這個世界嗎？能夠幫助人類提升整體的智識觀念嗎？

坦白講，我對此持保留意見，至少不那么樂觀。

對于這一點，移動互聯網對人群的影響和馴化，是一面駭人的鏡子，殷鑒不遠。

如果您是一位初代網民，我想一定會對剛剛接入到互聯網的那段時光記憶猶新。

那真是一段閃爍著夢幻般光芒的時光，海量的知識和數據不斷被傳輸到網絡上，數不清的高知網友不求回報，日以繼夜地在網絡上貢獻自己的知識、觀點，中英文論壇上充斥著高質量的帖子和討論……

第一代網友暢想著，在互聯網真正普及的那一天，當每一個人都能方便、廉價地接入互聯網，當每個人都可以平等地獲取海量的信息與知識——

那整個人類社會的文明水平會獲得質的飛躍，網絡一定會開創人類文明史上第二次“啟蒙運動”，觀念的最大公約數將由自由、平等、包容、博愛的個體認知所構建。

如今這一天真的來了，無論你是身處北上廣的地下鐵，還是置身偏遠山區的田埂間，每一個人都可以方便快捷地接入到4G網絡中。

但今天的公眾，整體的智識追求和觀念水位，每個人內心里對自由、平等、包容、博愛的精神，比50年前讀報紙的人，真的認識更高了嗎？

昨天的新聞是，一位剛剛考上研究生的姑娘，因為把頭發染成紅色遭遇了洶涌的網絡暴力，最終致郁而選擇了自殺……

離譜嗎？

我覺得照此發展下去，有一天“少女纏足美呆了，三寸金蓮絕絕子！”要是沖上熱搜，也不值得大驚小怪了。

我覺得，一位“五四運動”的前輩，如果穿越時光來咱們的微博上泡上幾天，他一定會大驚失色，今天的人類可以方便快捷地在隧道和藍天上連接互聯網，但他們所參與的公共討論，無論是話題質量還是話題深度，顯然，都呈現斷崖式的下降。

100年前五四新青年們探討的話題，在今天非但沒有取得更廣泛的共識和更深刻的體悟。這些問題如果放在今天的互聯網，反而變成十分勇敢，十分前衛，甚至十分激進的話題……

這不得不說是一個令人刺痛的諷刺。

（五）

這就是我想表達的隱憂：

在某個隱秘的維度上，相對于稀缺的圖書館和高昂的學費，廉價、平等和擁有海量知識的網絡，非但沒有“極大”提升個體的認知、觀念和思考能力，反而將許多人馴化成了一只只傲慢、狹隘、閉塞的“井底之蛙”。

在社交媒體之上，人與人之間認知的差別，有時甚于人和狗之間的認知差距，它完完全全是一種跨物種的，無法溝通的，全然屬于兩個世界的認識水平。

對此，我想每一位熱衷于網絡沖浪的朋友都感同身受。

無論對于原子化的個體，還是作為一個整體的社會，我想我們需要警惕的，不是技術升級所導致“摩擦性失業”。

我們需要警惕的，是類似人工智能這樣的技術爆炸，對公眾的“反向馴化”，以及這種馴化可能導致的“認知災難（觀念滑坡）”。

即人的工具化，思維的懶惰、固化以及由此帶來的群體認知失調和社會觀念崩塌。

在一個空前強大的AI工具面前，在一個面對人類提出的問題，能夠瞬間給予一個答案的“代腦”面前——

我不知道，我們距離真實是否會越來越近？

但我本能地懷疑，它極有可能反過來馴服我們，讓我們離偏見、狹隘和自以為是，愈來愈近。

所以我說，真正值得警惕的不是技術性失業，而是技術性失智；真正的恐怖不是技術性致貧，而是技術性“致盲”。

這里是思維補丁，謝謝你的閱讀。