世界至今仍未理解ChatGPT

? Matteo Giuseppe Pani

利維坦按：

我的筆記本上常年開著三個生成式AI，其中兩個作為輔助應用，主要用的還是ChatGPT。文中所言“有用但并非魔法”的描述可謂十分貼切了：一方面，很多人已經無法離開生成式AI，用它咨詢和處理各種瑣碎的事務，另一方面，又要必須忍受它的各種煞有介事、信手拈來的謊言與錯誤（就在前幾天，ChatGPT給我提供了一份看似完全可行的政策指導，好在我進一步查看了相關官網的細則，才戳穿了它的謊言）。

不管怎么說，ChatGPT誕生的這三年，已經重塑了我們與世界的關系——“重塑”是一個相對客觀的描述，但這其實也意味著，越來越多的人在享受它的實用性的同時，也在逐漸放棄創造和思考的能力。至少，我們已經在讓渡出本來屬于人腦的部分功能與權利。

三年前的11月30日，OpenAI發布了它內部稱之為“低調的研究預覽”的東西。這個預覽版是如此低調，以至于在OpenAI內部，員工們被指示不要將其定位為一次產品發布。一些OpenAI員工擔心公司正在倉促推出一個尚未完成的產品，但CEO薩姆·奧爾特曼（Sam Altman）仍然推進，希望能在競爭對手之前進入市場，并看看普通人會如何使用公司的AI。他們將這款產品命名為ChatGPT。

而人們確實很喜歡使用它——上線頭五天就超過100萬用戶。ChatGPT的增長速度超過了歷史上任何其他消費類應用。如今，它的周活躍用戶已經達到8億。數字固然重要，但不可否認的是，ChatGPT的成功已經迅速重塑了我們社會和經濟的部分面貌。現在，我們生活在一個由ChatGPT幫助塑造的世界里。

? Rodrigo Reyes Marin/ZUMA Press Wire/Eyevine

OpenAI的產品使“預言式聊天機器人”成為世界與大型語言模型互動的主要方式。其他公司也紛紛推出了各自版本的產品，比如Google Bard（現已更名為Gemini）以及微軟的Bing聊天機器人，后者很快就失控了，它甚至要求《紐約時報》的一位記者離開其配偶，與機器人共度余生[1]。ChatGPT向數百萬人介紹了一種工具，盡管它容易提供錯誤信息，但它模擬對話的能力足以讓人們將其用作無數任務的界面，例如查找信息。其他人則用它來自動化創作行為本身。這個機器人被證明對于作業作弊、撰寫無聊的工作郵件、研究和編程都非常方便。如今，一些人幾乎無法在沒有它的情況下做任何事情。

ChatGPT不斷迭代，其競爭對手也一樣，所有新的版本在嚴格的基準測試中表現都更出色。公司將聊天機器人嵌入客服平臺，而社交媒體上的投機者用它們來生成機器人軍團。亞馬遜上充斥著大量垃圾信息、合成的書籍。由機器人撰寫的文章堵塞了Google，使該網站變得越來越不實用。本已舉步維艱的大學面臨適應新現實的挑戰：他們的課程現在可以被學生輕易鉆空子。各類藝術家紛紛抗議，因為基于人類創作成果訓練的大型語言模型威脅到他們的工作，甚至可能使他們的工作變得無關緊要和過時，或者干脆徹底貶低創作的價值。許多媒體公司選擇與數據抓取者達成協議；也有一些提起訴訟。隨著聊天機器人變得越來越有用，一些企業不得不裁員。

一種新興文化在舊金山灣區迅速發展——黑客之家和宣言層出不窮。“你可以在舊金山首先看到未來，”這是AI研究員利奧波德·阿申布倫納（Leopold Aschenbrenner）所表達的總體觀點。更多人開始使用諸如P(doom) （指的是人工智能導致生存災難性后果的概率。編者注）situational awareness（情境感知）這樣的詞語[2]。有更多關于技術時間線的宣言；“超級智能”和“通用人工智能”成了那些擁有聽起來很嚴肅頭銜的富人能夠在公開場合不帶笑意說出口的詞語。

模型越來越先進，隨之而來的意外后果也日益加劇。人們像面對治療師那樣向聊天機器人傾訴心事。盡管無法保證絕對的隱私，他們還是向聊天機器人吐露了自己最黑暗的欲望[3]。他們表達喜悅、悲傷，甚至自殺的念頭；在一次備受矚目的事件中，據報道[4]，ChatGPT甚至主動提供幫助，建議用合適的材料制作絞索（OpenAI否認對此事件負有責任）。人們愛上了這些工具，并給它們起了名字。有些人則從對話中看到了某些東西——某種發現，或是某種陰謀即將浮出水面。有些人從此與日常生活脫節。有些人得到了幫助；有些人則沒有。

? Yahoo! Tech

ChatGPT只是眾多用于與大型語言模型交互的工具之一，但它的迅速成功點燃了人們的熱情，吸引了更多投資，并催生了其他人工智能界面的推出：文本轉語音合成器、圖像、視頻和音樂生成器、網絡瀏覽器等等。這些模型不斷改進，幫助構建網站和其他模型，并讓人們能夠將越來越多的決策外包出去。生成式AI工具被用來寫個性化的睡前故事，以及數字方式“再現”在大規模槍擊案中遇害的兒童。人們用它們生成完整的歌曲；至少有一首甚至還登上了Billboard排行榜。低質量的合成渲染圖成為了政治宣傳和點擊農場煽動情緒的主力（點擊農場是點擊欺詐的一種形式，是指雇傭大量低薪工人為點擊欺詐者[點擊農場主人或點擊農場主]點擊付費廣告鏈接。編者注）。人們給這種現象起了一個名字：垃圾（Slop）。

這些工具并沒有魔法，也并非人類意義上的“智能”。但對許多人來說，他們第一次接觸ChatGPT時，就感受到了這項變革性技術的諸多特質。這款聊天機器人既直觀又不可思議——仿佛是未來的一部分被帶到了當下。如果說在大型語言模型出現之前的那些令人失望的科技炒作周期——加密貨幣的興衰、Web3和元宇宙——像是在尋找問題的解決方案，那么生成式AI似乎提供了無限的應用場景。它的支持者們并沒有苦苦尋找應用案例，而是宣稱它將徹底改變世界。從某種意義上說，它確實做到了。否則，又該如何解釋OpenAI與美泰公司合作，將ChatGPT嵌入芭比娃娃，以及教皇警告學生“人工智能永遠無法取代你們對世界的獨特貢獻”的種種現象呢？

這些模型是不可知的——具有人格化特征的黑箱，但歸根結底，它們只是一系列基于海量訓練數據的復雜計算和統計推斷；而這些數據中的大部分未經其創建者明確許可就被獲取。這些模型沒有靈魂，也沒有權利。但它們具備模仿我們的能力——部分來自訓練中所包含的人類反饋——促使科學家和研究人員開始提出關于我們認知的問題，并進一步探究我們大腦的工作方式。

網上充斥著大量“蝦子耶穌”常被當作AI垃圾的典型案例。? wikipedia

這份清單僅僅概括了過去三年來人們對這些機器的熱情，以及它們引發的厭惡和焦慮。不同的人對這些模型的看法各不相同：有人認為它們是有用的工具；有人認為它們是“隨機鸚鵡”（Stochastic parrot，指大型語言模型雖然能夠生成合理的文句，但其實不能理解所處理的語句。編者注）或花哨的自動糾錯工具[5]；還有人認為它們是可怕外星智能的催化劑。

從不那么技術性的角度來看，這就是所謂的顛覆。今年8月，我寫道：“AI的持久影響之一，是讓人們感覺自己快失去理智了。”如果你真心相信我們距離一個改變范式、重塑社會的超級智能只剩幾年，那么表現得不理性完全說得通。如果你認為硅谷精英已經失去理智，把一種有用但并非魔法的技術強加給社會，宣稱它正在創造上帝，為其研發投入歷史性金額，并把其工具的命運與全球經濟的命運綁定在一起，那么憤怒完全也說得通。

ChatGPT構建的世界是一個充滿不確定性的世界。在這個世界里，人們時刻提防著危機。年輕一代對這種不確定性感受尤為深刻，他們即將畢業步入職場，卻被告知未來可能沒有一條可預測的職業道路。老一輩也被告知，未來或許面目全非，他們苦練的技能可能不再適用。投資者同樣在等待，大量難以想象的資本被投入AI公司、數據中心以及他們認為實現“到來”所必需的物理基礎設施中。我們被告知，這是一場競賽——一場地緣政治競賽，也是一場與市場、泡沫、資金循環以及可能導致經濟崩潰的復雜金融工具和債務投資的賽跑。人工智能的支持者們正在等待。他們為這一目標的到來制定了詳細的時間表。然后，時間表發生了變化。

我們之所以等待，是因為在生成式人工智能的忠實擁躉看來，它的一個顯著特點就是它永遠不會達到最終形態。就像ChatGPT發布前一樣，每個模型在某種程度上也是一種“低調的研究預覽”——是對真正可能性的一種概念驗證。你覺得現在的模型已經很好了？哈！等著瞧吧。

根據你的觀點，這或許是慣用的表演技巧，或許是創新的真理，或許是一場人質危機，又或許是一場精心策劃的騙局。你在這條從狂熱到胡扯的連續譜上的位置，很可能與你對未來的樂觀程度息息相關。但無論如何，你都在等待——等待泡沫破裂，等待阿拉丁神燈帶著印鈔計劃出現，等待政府救助，等待世界末日。從這個意義上講，生成式人工智能是一種基于信仰的技術。

這項技術對很多人來說已經很有用，它可以編寫代碼、撰寫營銷文案并完成基礎研究任務，但這并不重要。因為硅谷賣的不是實用性，而是變革——伴隨著所有宏大的承諾、投資回報、真正的風險以及隨之而來的附帶損害。即使你現在不相信，三年后你也一定會感受到它的影響。

參考文獻：

[1]www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html

[2]situational-awareness.ai/

[3]www.theatlantic.com/technology/archive/2024/10/chatbot-transcript-data-advertising/680112/

[4]www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html

[5]dl.acm.org/doi/10.1145/3442188.3445922

文/Charlie Warzel

譯/tamiya2

校對/tim

原文/www.theatlantic.com/technology/2025/11/chatgpt-third-anniversary/685084/

本文基于創作共享協議（BY-NC），由tamiya2在利維坦發布

文章僅為作者觀點，未必代表利維坦立場