GNU創(chuàng)始人斯托曼：ChatGPT是“胡扯生成器”

編譯 | 蘇宓

出品 | CSDN（ID：CSDNnews）

對于 AI 工具，有人愛，也有人討厭。近日，自由軟件之父 Richard Stallman（理查德·斯托曼） 在個人網(wǎng)站上發(fā)表一篇《不使用 ChatGPT 的理由》的文章，直言現(xiàn)在的 AI 工具并非真正的智能，它們根本不理解自己生成內(nèi)容的意義。他甚至將 ChatGPT 稱為“胡扯生成器”，理由是它生成的內(nèi)容“對真相毫不在意”。

值得一提的是，Richard Stallman 是 GNU 計劃與自由軟件基金會（FSF）的創(chuàng)始人。他在 1980 年代發(fā)起 GNU 項目，旨在構(gòu)建一個完全自由的操作系統(tǒng)，并推動軟件應(yīng)當(dāng)被自由使用、研究、修改和再發(fā)布的理念。他最廣為人知的貢獻包括 Emacs 編輯器、GNU 編譯器套件（GCC）等基礎(chǔ)工具，以及對 GPL 等自由軟件許可證的設(shè)計和推廣。

他發(fā)表的言論，也引發(fā)了不小的爭議。

ChatGPT 并非真正的智能？

斯托曼在博文中寫道：

ChatGPT 并不是“智能”，所以請不要稱它為“AI”。

我對“智能”的定義是能夠認識或理解事物，至少在某個領(lǐng)域內(nèi)應(yīng)如此。而 ChatGPT 無法認識或理解任何事物，所以它不是智能。它并不知道自己的輸出意味著什么，也不理解文字可以有意義。

我稱它為“胡扯生成器”，因為它生成的內(nèi)容“對真相毫不在意”。

同樣的理由也適用于許多其他“生成系統(tǒng)”。

公眾普遍錯誤地將智能歸于這些系統(tǒng)，導(dǎo)致數(shù)百萬人對它們產(chǎn)生了錯誤的信任。請與我一起傳播這樣的信息：人們不應(yīng)該信任那些只會機械地玩弄文字、卻不理解文字含義的系統(tǒng)。

另一個特別拒絕使用 ChatGPT 的理由是，用戶無法獲得它的副本。它是未發(fā)布的軟件——用戶連可執(zhí)行文件都拿不到，更別提源代碼。使用它的唯一方式是通過與一個遠離用戶的服務(wù)器交互。

在別人的服務(wù)器上運行軟件來進行自己的計算，本質(zhì)上會破壞你的計算自由。

對 AI 的定義

與此同時，斯托曼引用了 GNU 官方網(wǎng)站上從自由軟件角度對術(shù)語的解釋，并結(jié)合自己的理解，對當(dāng)前幾類基于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的系統(tǒng)進行了分類說明：

• 人工智能：適用于在某個領(lǐng)域（大或小）具備知識和理解的系統(tǒng)。

• 胡扯生成器：適用于像 ChatGPT 這樣的大語言模型（LLMs），它們生成聽起來流暢的語言，看似陳述事實，但對語言的語義完全不理解。這一結(jié)論得到了 Hicks 等人在 2024 年發(fā)表的論文《ChatGPT 是胡扯》的支持。

• 生成系統(tǒng)：適用于生成藝術(shù)作品的系統(tǒng)，其中“真與假”的概念并不適用。

目前，這三類任務(wù)大多通過“機器學(xué)習(xí)系統(tǒng)”實現(xiàn)，這類系統(tǒng)處理由大量數(shù)值組成的數(shù)據(jù)，并根據(jù)“訓(xùn)練數(shù)據(jù)”調(diào)整這些數(shù)值。一個機器學(xué)習(xí)系統(tǒng)可能是胡扯生成器、生成系統(tǒng)，或者人工智能。

對此，有人認可斯托曼的觀點：

“他并沒有說錯。它不是智能，而是智能的一種擬像。它可以有用，但絕不能被完全信任。而且，它當(dāng)然也算不上什么促進自由與開放的福音。”

也有人覺得分歧在于每個人對于「AI 的定義」有所不同所導(dǎo)致：

“當(dāng)我學(xué)習(xí)計算機科學(xué)時，人工智能的實踐課程是造一臺循線機器人，或者實現(xiàn)一個基于高斯差分（DoG）的邊緣檢測算法。現(xiàn)在任何東西都能被稱作‘AI’，接受每個人劃定‘AI’界限的不同，是合理的。”

還有網(wǎng)友反駁道：

「不，他在這一點上說偏了。他退回到像“ChatGPT 無法認識或理解任何事物，所以它不是智能”這樣的模糊表述，這表明你看到的更多是意識形態(tài)，而非分析。我是說，這句話在一定程度上是對的。但它和對你我來說一樣，都是無法被嚴格證明的，只是在“理解”和“認識”這兩個詞的語義上繞圈子而已。

特別是他稱 ChatGPT 真正只是一個“胡扯生成器”的說法，確實 100% 正確。但對地球上所有有智慧的人類來說，這句話也同樣成立。

歸根結(jié)底，AI 出錯的原因，基本和我們?nèi)祟惓鲥e的原因一樣。我們都依靠直覺做出關(guān)于生活的判斷，然后把“推理”和“邏輯”附加上去，作為事后優(yōu)化的技能，這些技能都需要訓(xùn)練才能掌握。

（順便說一句，我對自由軟件的觀點更能產(chǎn)生共鳴。所有這些模型都只在資金雄厚的私人環(huán)境中運行和成長，隨著技術(shù)成熟，肯定會帶來一些非常糟糕的外部影響。）」

那么，你如何看待斯托曼的觀點？

https://news.ycombinator.com/item?id=46203591

https://www.stallman.org/chatgpt.html

【報名倒計時，限免】C++之父中國行 · 40周年慶典｜北京·上海開發(fā)者見面會正式開啟！

• 北京站：12月12日 · 北京金隅喜來登酒店

• 上海站：12月14日 · 上海淳大萬麗酒店