AI遠沒有我們目前想象的如此強大

I'm

a communist

蕓婉筆談

一個正努力成為不盲從西方社會科學(xué)、有獨立思想、勇于批評中國文化精英依附性的普通中國學(xué)生...

為天地立心 為生民立命

為往圣繼絕學(xué) 為萬世開太平

摘要：

本文回顧了過去三年人工智能技術(shù)的飛速發(fā)展，并探討了AI在多個領(lǐng)域的應(yīng)用及其帶來的社會影響。文章指出，盡管AI技術(shù)在邏輯推理、多模態(tài)系統(tǒng)整合等方面取得了顯著進步，但其在醫(yī)療、教育等領(lǐng)域的應(yīng)用也引發(fā)了公眾對AI能力的過度信任，甚至出現(xiàn)了對專業(yè)醫(yī)生的質(zhì)疑。

文章強調(diào)，AI目前仍不能完全替代人類的創(chuàng)造力和復(fù)雜決策能力，其在某些領(lǐng)域的應(yīng)用更多是作為輔助工具。同時，文章也提出了減少AI幻覺的思考，即通過具體化問題來避免對AI的盲目信任。

時光荏苒，距離上一次與諸位探討人工智能已近三年。在這短短千余日里，人工智能技術(shù)以近乎量子躍遷的速度迭代演進——從語言模型的邏輯推理突破到多模態(tài)系統(tǒng)的感官整合，從實驗室的概念驗證到醫(yī)療、教育等領(lǐng)域的深度滲透，其進化軌跡早已超出普通公眾的認知范疇。

當(dāng)人們還在驚嘆ChatGPT-4能通過律師資格考試時，deepseek、豆包等國產(chǎn)AI業(yè)已橫空出世，甚至在心血管疾病診斷、新藥分子設(shè)計等尖端領(lǐng)域嶄露頭角。

上一次我們討論的主題是“人工智能是文明利器，還是潘多拉魔盒？”，當(dāng)我們以三年為刻度回望AI進化軌跡時，效率提升的震撼遠超預(yù)期。2022年撰寫一篇4000字的推文時，我常在編輯階段陷入"摘要困境"——既要凝練長文的邏輯骨架，又需規(guī)避"自我復(fù)述"的思維盲區(qū)，往往耗費半小時咬文嚼字，最終產(chǎn)出才差強人意。但后來WPS針對學(xué)生免費提供部分AI服務(wù)，如AI總結(jié)，當(dāng)文檔完成后將一鍵自動生成總結(jié)，為我省去了不必要的麻煩。

此外，在前段時間的計量模型設(shè)計當(dāng)中，AI的設(shè)計思路也令我刮目相看；在短短數(shù)秒內(nèi)，他居然能給出較為嚴密的計量框架，甚至還有理有據(jù)，對于使用者而言，仿佛一位堪比百科全書法力無邊的先知在提點我這個剛剛修道的小仙。

AI如此的強大，以至于這位先知給人們制造了一種炫目的幻覺——AI無所不能。

而問題就此而來——AI技術(shù)的狂飆突進裹挾著社會認知的撕裂。

譬如，在醫(yī)療領(lǐng)域，最近這類新聞層出不窮：患者通過AI獲取診療建議后，常將醫(yī)生方案與AI結(jié)論對比，甚至因結(jié)果不符而質(zhì)疑醫(yī)生專業(yè)性。甚至，有患者根據(jù)AI建議拒絕醫(yī)生開具的藥物，轉(zhuǎn)而依賴AI推薦的生活方式調(diào)整，導(dǎo)致病情惡化，當(dāng)院方依據(jù)臨床指南調(diào)整用藥方案時，“AI診斷準(zhǔn)確率達92%”的社交平臺熱帖便成為患者質(zhì)疑醫(yī)生的利器。更加令人意外的是，也有不少醫(yī)生根據(jù)AI為病患開方！

上述案例折射出一個荒誕的現(xiàn)實圖景：公眾對算法的信任閾值，竟超越了十年寒窗淬煉的醫(yī)學(xué)專業(yè)共識！

這實際上說明公眾對AI訓(xùn)練的原理非常不清楚。AI的訓(xùn)練方式其實和我們?nèi)祟悓W(xué)習(xí)知識差不多，人類經(jīng)常給AI模型投喂一些訓(xùn)練材料，由此形成AI的數(shù)據(jù)庫，數(shù)據(jù)庫好比我們?nèi)祟惖念^腦。

之所以AI能生成有意義的文本，是因為在投喂時，人類就輸入了有規(guī)律的詞組，并訓(xùn)練AI生成文本的詞句結(jié)構(gòu)，因此我們不會看到AI生成“喝飯”一詞，還總能察覺由AI生成的句子總帶有AI味。

由于學(xué)習(xí)方式相同，AI也會犯人類愛犯的錯誤，那就是思維定式下的經(jīng)驗主義。就拿剛才的處方為例，即使病患有不同的病因，病的表征卻可能存在相同，這就好比咳嗽既可以是支氣管炎也可以是感冒還可以是肺炎。而這三種疾病在人群中發(fā)生的概率是不一樣的，因此AI會優(yōu)先判斷你為最輕的那種疾病，并給出意見，接著需要你補充更進一步的病況信息，AI才會加深思考判斷，這就是AI回答末尾往往還有相關(guān)問題提示的原因。

此外，還有一個AI總愛犯的類似人類犯的錯誤就是“知識迭代”，比如當(dāng)一個人的某種專業(yè)知識長期不更新時，他可能就會在這個行業(yè)落后，AI亦然，訓(xùn)練AI的文本和總是要落后社會存在的，這也是為什么目前市面上所有的AI都有“聯(lián)網(wǎng)搜索”這一功能，只有打開這個功能，AI才會搜集最新消息，而不是沉浸在歷史文本找答案。

而醫(yī)生是如何為我們判斷疾病的呢？對于現(xiàn)代醫(yī)學(xué)來講，首先，醫(yī)生會根據(jù)你的情況進行比對，羅列出一些可能出現(xiàn)此類癥狀的疾病，接著會安排病患做深入檢查獲取相關(guān)數(shù)據(jù)指標(biāo)來判斷具體是哪種情況， 這就是病患常常覺得醫(yī)院在做“額外收費、額外檢查”的原因。

顯然，無論是AI還是醫(yī)生，都是需要逐次排除來確定病患的最終疾病；只是AI不是人，它需要接受指令才能往下進行一步；而醫(yī)生會自動地根據(jù)初次檢查分析進行下一步。

但是也有例外，比如，一個已經(jīng)知道自己疾病的患者，在服用一段時間后，他可以詢問AI接下來的情況或者需要改變何種藥物。這又是為什么呢？患者已經(jīng)有過既往病史，他的病因或是病況敘述非常具體，這就減少了額外判斷，AI思考時就會更會更加精確，這當(dāng)然就比較準(zhǔn)確了。

實際上，我以數(shù)學(xué)就AI提問時我就發(fā)現(xiàn)，即便是非常講究邏輯的AI也會出現(xiàn)邏輯錯誤，所以AI絕對不是永不犯錯的或者萬能的。甚至，我在使用AI快速檢索相關(guān)文獻時，我還發(fā)現(xiàn)AI會編造相關(guān)期刊和文章，甚至使用假數(shù)據(jù)來證明他編造的結(jié)論。

可見，起碼目前為止，AI還不能完全替代人的檢驗與思考，它只能作為輔助工具來幫助人們解決問題。

而正是這一新的認識，使我對AI改觀。過去，我們一直認為人工智能最先替代的是重復(fù)勞動性機械流水線，最難替代的是人類的創(chuàng)造力以及衍生的藝術(shù)類創(chuàng)作。

因此，當(dāng)AI在我們普遍認為最難超越人類的領(lǐng)域大放異彩之時，人們當(dāng)然就會不可避免地神話AI，由此則造成AI幻覺。

工業(yè)生產(chǎn)早已證明，規(guī)則明確的工作根本不需要披著"人工智能"的外衣。那些重復(fù)性勞動的流水線工作根本無需借助人工智能，只需通過高度集成和模塊化的自動化流水線，便能實現(xiàn)替代。汽車裝配線上的焊接機器人，本質(zhì)上只是精密的自動化設(shè)備。真正難以替代的，是那些需要即時整合視覺、觸覺與空間想象力的工種。在東莞的模具車間，老師傅僅憑切削聲的變化就能判斷刀具磨損程度，這種將聽覺振動轉(zhuǎn)化為幾何誤差的直覺，是任何算法都難以量化的經(jīng)驗網(wǎng)絡(luò)。

換言之，人類的復(fù)雜性意味著即使將人工智能的計算能力提升數(shù)十倍，也難以應(yīng)對。

譬如，農(nóng)業(yè)合作社的挖藕師傅彎腰探入渾濁的泥塘。他們的手掌在淤泥中游走，指尖觸碰到某個彎曲的弧度，瞬間完成三維建模——這是四十萬次重復(fù)勞動刻進肌肉的記憶。不需要掃描儀或傳感器，僅憑皮膚反饋的溫度、濕度和形狀變化，就能精準(zhǔn)切斷蓮藕與根莖。這種人類的多模態(tài)協(xié)同能力，至今仍讓最先進的仿生機器人相形見絀。

這又是為什么？還是要溯源到AI的學(xué)習(xí)方式上，AI靠的不斷輸入的數(shù)據(jù)形成自己的數(shù)據(jù)庫，換言之，AI完全可以看作規(guī)模龐大的“統(tǒng)計學(xué)模型”。規(guī)則越明確，AI就越能發(fā)揮超越人類的計算能力；規(guī)則不明晰，即使擁有算力也無濟于事。

所以就很好理解，為什么現(xiàn)在患者會拿AI處方來質(zhì)詢醫(yī)生了！

當(dāng)醫(yī)療AI能比年輕醫(yī)生更準(zhǔn)確識別影像病灶，當(dāng)法律文書生成器可以三分鐘輸出起訴狀，當(dāng)繪畫模型批量生產(chǎn)商業(yè)插畫，這些曾被視作"高門檻"的職業(yè)，正因其標(biāo)準(zhǔn)化程度高、決策路徑清晰而成為算法的獵物。就像印刷術(shù)顛覆抄經(jīng)人，工業(yè)革命淘汰紡織工，這次輪到了知識勞工面對技術(shù)沖擊。

所以，使用而不是濫用AI才能發(fā)揮文明利器的作用，否則就是打開了潘多拉魔盒。

文末，我有一個小問題供大家思考，那就是怎樣提問才能盡最大可能減少AI幻覺呢？

比如我在問中的思考，如果我們提問的方式非常具體，是不是就可以避免AI幻覺呢？

另外，蕓婉筆談后臺私信功能也接入AI模型啦，如果你對文章有什么疑問，或許后臺私信和我的小助手檀蕓婉聊一聊可以豁然開朗呢？

（向上滑動啟閱）

致同志們：

現(xiàn)今世界的斗爭中，一個國家能否在國際叢林中站穩(wěn)腳跟不但取決于它是否有足夠的實力，還取決于它的聲音是否響亮。今時不同往昔，酒香也怕巷子深。中國作為一個負責(zé)任的大國，不能只身體力行做好維持世界和平的衛(wèi)道士，還要增加在國際上的音量，把中國聲音傳遞出去，讓“中國崩潰論”“中國威脅論”的言論不攻自破，讓“人類命運共同體”的理論深入人心。

簡而言之，就是要形成自己的話語體系。然而，完成話語體系的構(gòu)建說起來容易，做起來卻難，因為在人們的心中早已種下思想鋼印。

實際上，西方理論和話語的詮釋能力早已經(jīng)不能解釋今天中國為什么能和平崛起。而中國以這樣的人口基數(shù)、這樣的發(fā)展速度，放眼人類歷史也是前所未聞的。今天我們再回首過去的崢嶸歲月，細細想來如果當(dāng)初我們按照西方的話語完成現(xiàn)代化，后果將不堪設(shè)想，極有可能步蘇聯(lián)的后塵，哪還有機會在今天談民族復(fù)興呢？

對此，我想說：

經(jīng)濟學(xué)是經(jīng)濟制度的保障！

政治學(xué)是政治制度的保障！

社會學(xué)是社會制度的保障！

歷史學(xué)是國家立身的保障！

令人憤慨的是，有相當(dāng)一批中國的學(xué)者卻仍在對西方的價值觀念奉為圭臬，并在公眾輿論中大放厥詞，辱沒了其專家頭銜的名節(jié)。這批臭公知言必稱希臘羅馬，對國外頂禮膜拜，對國內(nèi)趾高氣揚，似乎沒有了希臘羅馬他們就不會說話了一般。如果中國人只會在西方話語的語境下理解中國，就無法真正讀懂中國，更不可能講好中國故事，更不要說與西方話語交鋒了。

今天的中國有足夠的實力來支撐站在世界舞臺上的底氣，為什么不能用中國人的眼光和視角來看待世界？難道西方說什么我們就認為什么嗎？

中國是一個大國，大國注定要獨立自主、自力更生，不能有所依附。正是這份獨立自主的信念支撐著我堅持閱讀、堅持寫作、堅持去西方化地看待、理解和評述世界。

我只想做一個不盲從西方社會科學(xué)、有獨立思想、勇于批評中國文化精英依附性的中國學(xué)生，即使這看起來我像與“主流”格格不入的瘋子。可我這個瘋子就是要告訴所有人，今天的中國不僅是以工業(yè)化回到原來的位置，而是帶著五千年歷史文化的底蘊并汲取了包括西方在內(nèi)其他文明之長重回世界中心的。西方狹隘的“殖民視角”是解釋不了中國，更解釋不了其他國家的歷史征程。

因此，「蕓婉筆談」嘗試為中華民族提供一個重新認識傳統(tǒng)文化與歷史問題的契機，促進大家對中華文明問題的新思考和討論，使人們從西方科學(xué)的禁錮之下解放出來。

“不斷挑戰(zhàn)西方世界觀，解構(gòu)西方話語霸權(quán)”是一項跨越時代的艱巨任務(wù)，而且最大的障礙不再蕭墻之外，而存在于中國思想界存在的對西方的盲目崇拜，在于深受西方影響滲透的教育體系，在于仍然熱衷于玩西方設(shè)計出來的思想馴化游戲的社會科學(xué)各學(xué)科，在于文化、傳媒、出版和文藝等領(lǐng)域里不少人頭腦里鐫刻的西方思想鋼印。

殷切希望能遇到更多同志，尤其是和我差不多年紀的青年學(xué)生能夠跳出西方話語陷阱，提出具有中國特色和兼顧世界人民的社會科學(xué)理論。

——蘇蕓婉

郵箱請看菜單欄

親愛的同志，由于公眾號改版，現(xiàn)在會減少推薦。如果你也喜歡我的文章，不想錯過我的文章， 請給【蕓婉筆談】設(shè)個“星標(biāo)”吧！

01

02

03

04