AI 終將會有自己的宗教 | MindCode 周報

你正在閱讀的是《MindCode321》周報。

周報每周四（或五）發布，包括：3個我的想法、2個來自別處的啟發、1個留給你思考討論的問題。主題涵蓋AI、腦科學、心理、創業。一般是這樣，偶爾，某期周報里是別的東西。

周報力求簡短，保證你在5分鐘內讀完。

以下是本期內容，我說的都是錯的：

三個想法 想法1：不要問AI，讓AI來問你。

一般AI使用者，會向AI提問，獲得回答后，有時罵罵，有時夸夸。真正的高手，會讓AI來問自己，前幾輪對話中，收到提問后，常常挑刺，然后慢慢的，開始偶爾表揚。

想法2：強化學習的幻覺來源于訓練環境復雜度不夠，而這背后涉及到“智能的層次和統一性”的問題。

強化學習也會有嚴重的幻覺、偷懶等問題，這并非AI的強化學習能力低，而是能力過高，訓練環境的復雜度跟不上了。

究其本質是另一種“過擬合”。

監督學習、半監督學習，現在面臨的是數據荒（我認為是暫時的），RL學習面臨的是復雜度荒。

當然從更高的抽象角度看，其實本質沒有區別，只是層次不同。

智能是在不同層次上發生的：微觀層面，輸入token，輸出對下一個token的預測；中觀層面，輸入狀態，輸出對下一個狀態的預測；宏觀層面，輸入現象，輸出對下一個現象的預測。

這是分形之下的連續統一性。

尤其注意看最后一個，“輸入現象，輸出對下一個現象的預測”這其實恰好的是人類對于科學的定義：解釋已知現象，并預測未被觀察到過的新現象。

所以，那種認為“AI 不過是預測下一個token，因此沒有真正的智能和意識”的觀點，是絲毫站不住腳的。

稍微插一句，隨著AI跟越來越高的復雜度環境做互動，尤其是進化算法等更進一步的發揮作用，我相信：AI最終將會有自己的宗教。關于這點，這里的空白太小我寫不下，咱們未來另找時間討論。

想法3：有趣的新詞：“你prompt到了我”。

當你朋友問你一個問題時，你就可以這么回一句。

大概意思是，你這個的問題，命中了我，讓我能深入思考，且我感覺我將能給出精彩回答。

注意，這是一種全新的人與人之間的交流范式，過去是沒有的。

別反駁，真的過去沒有過。

過去我們最多會說“嗯，你提了個好問題”或者“這個問題很有啟發”。但這并不能涵蓋“你prompt到我了“的意思。

后者是這樣一種感覺：你提了一個深刻的、而且我從未想過的問題。在你問我之前，這個問題從未在我腦海里出現過，自然地，我也從未有過關于它的答案，但當你提出來那一刻，我卻能確切的意識到——它是屬于我來回答的問題，而且我可以回答得驚為天人。

你看，AI 不但再改變每一個人，而且正在悄無聲息的改變人與人。

兩個收獲 收獲1：

很多時候，一件正確的事情，往往看起來沒啥深度。 by 野區學校創始人劉偉

——考試的時候，越有深度的問題，如果回答對了，越能得高分，但現實世界并不如此。即便做為高科技的AI，今天倍奉為圭臬的訓練方法，就曾經因為其理念一眼看去“沒啥深度”，而被人長期忽視。背后的原因？也許是因為，世界本質是各個草臺班子搭起來的。

收獲2：

一個物理系統，比如我們的大腦，在“硬件層面”本身不可能有意識，只有物理之上的模擬才能有意識。意識是被模擬的自我所擁有的一種被模擬的屬性。 by 認知科學家 Joscha Bach

——這段話很拗口，它的大意是，大腦用神經元活動在體內實時“跑”出一套模擬程序，用來模擬出外部世界、模擬出一個自己，以及模擬出此刻正在發生的事。這跟我在2年前的里提到的“外部世界的內部模型”，是差不多的意思。不過Joscha Bach還特別強調了一點，除了外部世界，“自我”也是模擬的結果。

一個靈魂拷問

你是否經常讓AI問你問題？點擊右下角氣泡圖標，寫下你的回答。

文兄是誰？

科技領域連續創業者（目前在AI+心理領域），中美3家AI公司的GPT戰略顧問，原阿里巴巴早期移動端核心產品負責人，CEO心智與戰略教練。未來一段時間，也許你關注的某些重要的AI產品，或某些備受關注的項目融資，背后就有他身影。

MindCode是什么？
一個剛剛決定寫點好東西的、很小眾的公眾號。日常發短篇，偶爾有深度長文。關注：AI、腦科學、心理學、創業等。由于在幾個關聯領域都有很深入思考，關注者中不乏頂級牛人，比如xxx和xx。

AI時代，讀他人之未讀對你很重要。關注并發送“1”可加討論小群，還可參加每周一晚的“讀完周報再來聊聊”的閉門交流會。