思考的終結(jié)

人工智能“思考”崛起并非問題所在，人類思考能力的衰落才是。

德里克·湯普森Derek Thompson

本文是一篇文章的擴充修訂版，原文最初發(fā)表于《論點》雜志。該雜志為線上刊物，本人（德里克?湯普森）擔任其特約撰稿人。

近幾個月來，人工智能領(lǐng)域的頂尖高管與思想家們，就人工智能接管經(jīng)濟所需的時間，給出了一個異常具體且令人不安的預(yù)測。核心觀點是：“只有18 個月的時間。”

他們聲稱，到 2027 年夏天，人工智能能力的爆發(fā)式增長將把碳基生命（即人類）遠遠甩在身后。多達 “一半的入門級白領(lǐng)崗位” 將被淘汰，一旦人工智能開發(fā)者在 “數(shù)據(jù)中心打造出一個天才之國”，即便是足以獲得諾貝爾獎的頂尖人才也將心生畏懼。

我不認同這一預(yù)測，理由有三。首先，想象自己即將變得毫無價值，這絕非什么愉快的事。其次，這類經(jīng)濟預(yù)測在我看來如同 “世俗版的末日審判”—— 一個如神般的實體降臨人間，揮一揮手就讓整類人類活動消失 —— 實在難以讓人當真。第三，也是最重要的一點：這份渲染末日氛圍的“18 個月預(yù)言”，讓我們?nèi)ハ胂筌浖芸鞎屓祟惸芰ψ兊煤翢o用處，但在我看來，當下更嚴峻的危機恰恰與此相反。早在軟件準備好搶走人類工作之前，年輕人就已經(jīng)在把自己的思考能力外包給機器，導(dǎo)致自身認知能力不斷退化。

相比未來 “會思考的機器” 的崛起，我更擔憂當下 “會思考的人類” 的衰落。

寫作的終結(jié)，閱讀的終結(jié)

今年 3 月，《紐約雜志》刊登了一篇迅速走紅的封面報道。它之所以傳播開來，并非因為內(nèi)容震撼，恰恰相反，是因為它大聲說出了大多數(shù)人早已有的感受：現(xiàn)在所有人都在靠人工智能蒙混過關(guān)、應(yīng)付學(xué)業(yè)。

大型語言模型能讓高中生和大學(xué)生輕松生成任意主題的論文，這給教師帶來了生存性危機 —— 他們原本要評估學(xué)生 “實際寫作能力”，如今卻只能評估學(xué)生 “讓 AI 完成所有作業(yè)的指令能力”。一名學(xué)生坦言：“現(xiàn)在上大學(xué)，說白了就是看我用 ChatGPT 用得有多好。” 一位教授也附和道：“未來大批拿著大學(xué)文憑進入職場的學(xué)生，本質(zhì)上可能是‘功能性文盲’。”

寫作能力的衰退絕非小事，因為寫作并非 “思考之后的附加步驟”—— 寫作本身就是思考的過程。這一點對專業(yè)人士和學(xué)生同樣成立。《自然》雜志曾發(fā)表題為《寫作即思考》的評論文章，作者指出：“將整個寫作過程外包給大型語言模型”，會讓科學(xué)家失去一項重要工作 —— 理解自己的發(fā)現(xiàn)是什么、以及這些發(fā)現(xiàn)為何重要。無論是學(xué)生、科學(xué)家，還是其他讓 AI 代筆的人，最終都會發(fā)現(xiàn)自己的屏幕上滿是文字，大腦里卻空空如也。

隨著寫作能力的衰退，閱讀能力的下滑更為嚴重。一位化名為希拉留斯?布克賓德（Hilarius Bookbinder）的大學(xué)教授，在今年 3 月發(fā)表于 Substack 的一篇關(guān)于大學(xué)校園現(xiàn)狀的文章中寫道：“我們的大多數(shù)學(xué)生都是功能性文盲。這不是玩笑。” 這也絕非夸張。數(shù)十年來，西方各國的讀寫能力和計算能力測試分數(shù)首次出現(xiàn)下滑，這讓《金融時報》記者約翰?伯恩 - 默多克不禁質(zhì)疑：就在我們建造 “替人類思考的機器” 之際，人類是否已經(jīng) “度過了大腦能力的巔峰期”？

在美國，由 “全國教育進展評估”（NAEP）發(fā)布的 “國家成績單” 近期顯示，學(xué)生的平均閱讀分數(shù)跌至 32 年來的最低點 —— 而該數(shù)據(jù)系列恰好只追溯了 32 年，情況之嚴峻可想而知。

資料來源：NAEP

美國人其實一直在 “閱讀”：郵件、短信、社交媒體信息流、網(wǎng)飛劇集的字幕。但這些文字都是碎片化的，幾乎不需要持續(xù)專注；事實上，在數(shù)字時代，美國人似乎既沒興趣、也沒能力去接觸比一條推文更有語言深度的內(nèi)容。自 2000 年以來，聲稱 “為休閑而讀書” 的美國人比例下降了近 50%。在另一篇題為《美國學(xué)生越來越笨》的文章中，馬特?伊格萊西亞斯引用了教育領(lǐng)域作者查德?奧爾德曼的觀點：12 年級學(xué)生成績的下滑，主要集中在成績最差的學(xué)生群體中。

資料來源：Aldeman

即便是美國最聰明的青少年，也基本不再閱讀超過一個段落長度的文字。去年，《大西洋月刊》的羅斯?霍羅維奇報道稱，一些進入美國頂尖大學(xué)的新生，竟然從未完整讀過一本書。霍羅維奇寫道：“喬治城大學(xué)英語系主任丹尼爾?肖爾告訴我，他的學(xué)生連一首十四行詩都難以專注讀完。” 美國企業(yè)研究所的教育研究員納特?馬爾庫斯向我表示，高中為了讓學(xué)生應(yīng)對標準化考試的閱讀理解部分，已經(jīng)把書籍拆分成了 “碎片化模塊”。或許，美國教育體系在 “優(yōu)化閱讀能力評估” 的同時，也在無意中加速了 “深度閱讀” 的消亡。

讀寫能力：認知的‘強心劑

計算機科學(xué)教授、《深度工作》等多本暢銷書的作者卡爾?紐波特認為，寫作與閱讀的衰退之所以重要，是因為它們是 “深度思考” 的兩大支柱。現(xiàn)代經(jīng)濟重視 “符號邏輯” 與 “系統(tǒng)思維”，而深度閱讀和深度寫作正是培養(yǎng)這些能力的最佳方式。

紐波特表示，人工智能是 “多輪沖擊人類‘實際思考能力’的最新重量級選手”。電視的興起，曾導(dǎo)致人均報紙訂閱量下降、休閑閱讀逐漸衰退；隨后互聯(lián)網(wǎng)、社交媒體、智能手機和流媒體電視接踵而至。正如我在《大西洋月刊》中報道的那樣，“技術(shù)會奪走我們的專注力” 這一直覺，已被多項研究證實：上課使用手機的學(xué)生記筆記更少，對課堂內(nèi)容的記憶也更淺。另有研究顯示，在社交媒體和作業(yè)之間 “切換任務(wù)”，與較低的 GPA（平均績點）相關(guān)；而在實驗環(huán)境中被收走手機的學(xué)生，考試成績會更好。

紐波特說：“閱讀與寫作的‘組合拳’，就像超級英雄漫畫里的‘強心劑’—— 注入它，才能獲得‘深度符號思維’的超能力。因此，我一直在敲響警鐘：我們必須持續(xù)‘注射’這劑強心劑。”

紐波特的警告，與學(xué)者沃爾特?翁在其著作《口語文化與書面文化》中的觀點不謀而合。翁認為，讀寫能力絕非 “過時的技能”—— 它是重構(gòu)人類思維與知識的工具，為復(fù)雜思想的誕生創(chuàng)造了空間。不會讀寫的人可以記憶故事，但如果沒有書寫微積分公式的能力，像牛頓《自然哲學(xué)的數(shù)學(xué)原理》這樣高深的著作，根本無法代代相傳。翁寫道：“口語方言通常只有幾千個詞匯，而‘標準英語’這類書面語言，至少擁有 150 萬個詞匯。” 如果說閱讀與寫作曾 “重塑” 人類大腦的邏輯機制，那么在 “更強大的機器” 即將出現(xiàn)之際，讀寫能力的衰退正在 “解構(gòu)” 我們的認知超能力。

若應(yīng)對人工智能的解決方案只是 “無視它、在大學(xué)校園禁用它、把所有考試都變回傳統(tǒng)手寫答題”，事情會簡單得多。但人工智能并非 “認知芬太尼”—— 不是那種要不惜一切代價規(guī)避的物質(zhì)。醫(yī)學(xué)領(lǐng)域的研究發(fā)現(xiàn)，在診斷罕見疾病方面，ChatGPT 等大型語言模型比大多數(shù)醫(yī)生表現(xiàn)更好。拒絕這類技術(shù)，絕非 “頑固的愚蠢” 所能概括；在現(xiàn)實案例中，這甚至可能等同于 “致命的失職”。目前并沒有清晰的界限，能告訴我們 “何時該使用 AI，何時該關(guān)掉 AI 界面”。

這種困境在醫(yī)學(xué)院中尤為明顯：學(xué)校鼓勵學(xué)生使用 AI，但有責任心的學(xué)生必須確保自己的能力與 AI 同步提升，而非在技術(shù)面前逐漸退化。德克薩斯大學(xué)西南醫(yī)學(xué)中心的醫(yī)學(xué)生本杰明?波普克對《紐約客》表示：“我擔心這些工具會削弱我獨立診斷的能力。我來醫(yī)學(xué)院是為了成為一名真正的醫(yī)生。如果你的工作只是把癥狀輸入 AI，那你還算醫(yī)生嗎？還是說，你只是比病人更會給 AI 發(fā)指令而已？”

文章中這樣描述：

“在最近一次輪崗中，教授讓全班同學(xué)用 ChatGPT 和 OpenEvidence（一款日益流行的醫(yī)療領(lǐng)域 AI，向醫(yī)療從業(yè)者免費開放）等工具分析一個病例。兩款 AI 都準確診斷出了肺栓塞。波普克說：‘當時沒有對照組’—— 也就是說，沒有一個學(xué)生在無輔助的情況下獨立分析病例。那段時間，波普克發(fā)現(xiàn)自己幾乎在每次接診后都會使用 AI。他告訴我：‘當我把自己的想法匯報給主治醫(yī)師時，心里會很不安，因為我知道那些想法其實是 AI 的。’有一天離開醫(yī)院時，他突然意識到一件令人不安的事：那天他沒有獨立思考過任何一個病人的病例。”

作家詹姆斯?馬里奧特在一篇瘋傳的文章《后讀寫社會的黎明與文明的終結(jié)》中，以近乎愛德華?吉本（《羅馬帝國衰亡史》作者）式的宏大敘事，描繪了人類思考能力的衰退。馬里奧特預(yù)測，在機器時代，隨著讀寫能力的衰落，那些 “幫助我們理解世界的認知能力” 將逐漸消失，一個 “前讀寫時代” 的社會秩序?qū)臍v史的凍土中復(fù)蘇，隨之而來的是 “創(chuàng)造力崩塌”“民主消亡” 等 “惡魔”。他寫道：“如果沒有印刷術(shù)所賦予的知識與批判性思維能力，現(xiàn)代民主社會的許多公民會變得像中世紀農(nóng)民一樣無助且輕信，容易被非理性言論煽動，陷入群體狂熱。”

或許他是對的。但在我看來，更可能發(fā)生的場景不會像 “文明終結(jié)” 那樣戲劇化。我們不會變得野蠻、暴力，也不會讓彼此或自己覺得 “生活充滿刺激”。不會有第二個吉本去記錄 “人類思維的衰亡”，因為不會有任何外在事件可供觀察。休閑時間會增加，家庭生活在休閑中占比會更高，屏幕時間在家庭生活中占比會更高，而 AI 生成內(nèi)容在屏幕時間中占比會更高。正如奧威爾幾乎曾寫下的那樣：“如果你想想象未來的圖景，那就想象一塊屏幕永遠在人類面前發(fā)光。” 對大多數(shù)人來說，這場悲劇甚至不會讓人覺得是悲劇 —— 因為我們已經(jīng)失去了 “為失去的東西感到懷念” 的智慧。

認知的張力時間

…… 當然，或許事情并不會發(fā)展到這一步！

文化的本質(zhì)就是 “反彈”—— 我們有足夠的時間去抵抗 “思考機器” 的暗流，以及 “惰性消費” 帶來的無聲危機。我時常能感受到這場 “反抗” 的浪潮。焦慮于孩子未來的家長問我最多的問題是：“在 AI 時代，我的孩子應(yīng)該學(xué)什么？” 我無法給出 “某個學(xué)生應(yīng)該選什么專業(yè)” 的具體答案，但我堅信他們應(yīng)該重視一項能力 —— 正是我目前看到在不斷衰退的能力：深度思考的能力。

在健身領(lǐng)域，有一個概念叫 “張力時間”（Time Under Tension）。以簡單的深蹲動作為例：手持重量，從站立姿勢下蹲。用同樣的重量，一個人可以用 2 秒完成一次深蹲，也可以用 10 秒。后者更難，但也更能增肌。時間越長，張力越大；痛苦越多，收獲越多。

思考能力的提升，也遵循類似的 “張力時間” 原則。所謂深度思考，就是能耐心面對一組 “關(guān)聯(lián)微弱或毫無關(guān)聯(lián)” 的想法，然后將它們編織成一個 “組合式創(chuàng)新” 的新觀點。要通過描述他人的思考過程來論證這一點并不容易，所以我想分享自己的經(jīng)歷。兩周前，在線雜志《論點》邀請我寫一篇文章，評估 “AI 將在 18 個月內(nèi)搶走所有工作” 這一說法。我的第一反應(yīng)是：這個預(yù)測過于激進，幾乎肯定是錯的，或許除了 “不對” 之外，沒什么好說的。但當我沉下心來思考這個話題時，幾塊 “拼圖” 開始逐漸拼湊在一起：我讀過的一篇《金融時報》文章、我喜歡的一篇《大西洋月刊》報道、我保存在瀏覽器標簽頁里的 NAEP 研究報告、我對卡爾?紐波特的采訪錄音、別人推薦我讀的沃爾特?翁的著作，以及最近在健身房第一次嘗試 “離心引體向上” 時的突發(fā)奇想 —— 當時我在想，在健身中，時間如何同時放大痛苦與收獲。一個理論框架的輪廓逐漸清晰。我決定，這篇文章不應(yīng)聚焦于 “技術(shù)搶走有能力者的工作”，而應(yīng)聚焦于 “人類在新機器面前如何主動放棄自己的能力”。我們太過執(zhí)著于 “技術(shù)如何在能力上超越我們”，卻忽略了 “技術(shù)如何讓我們的能力退化”。

在關(guān)于 “行星級災(zāi)難即將來臨” 的電影里，我們總能看到人類團結(jié)起來，直接應(yīng)對威脅。人們或許會認為，“全知 AI 可能即將到來” 這一威脅，也會像 “斯普特尼克時刻”（蘇聯(lián)發(fā)射首顆人造衛(wèi)星，刺激美國加速科技發(fā)展）那樣，激發(fā)人類集體的深度思考能力。但我擔心的是，面對所謂 “超級智能” 的到來，我們正在通過 “自我腦葉切除” 來 “做準備”—— 退縮到一種 “毫無好奇心” 的狀態(tài)，減少閱讀、減少寫作、減少思考。這就像一些天體物理學(xué)家認為 “一顆彗星即將撞擊紐約”，而我們?yōu)榱藨?yīng)對撞擊，提前把曼哈頓夷為平地。我會把這種行為稱為 “瘋狂”。不要讓 “會思考的機器正在崛起” 的故事，分散你對當下真正認知挑戰(zhàn)的注意力 —— 真正的挑戰(zhàn)，是會思考的人類正在衰落。

本文編譯自substack，原文作者Derek Thompson

https://www.derekthompson.org/p/the-end-of-thinking?utm_source=profile&utm_medium=reader2