AI公司要讓AI Agent多去真實世界里犯錯 | MindCode321周報

你正在閱讀的是《MindCode321》周報，這是公眾號MindCode的欄目。

周報每周四（或五）發布，包括：3個我的想法、2個來自別處的啟發、1個留給你思考討論的問題。主題涵蓋AI、腦科學、心理、創業。一般是這樣，偶爾，某期周報里的321是別的東西。

周報力求簡短，保證你在5分鐘內讀完。

以下是本期內容：

3個想法 想法1：AI公司應該更多地讓AI去真實世界里犯錯。

2025年被稱為Agent元年，所謂Agent，簡單講就是能獨立干活的AI。

但這里有個“雞生蛋蛋生雞”的問題：因為AI獨立干活的能力還不行，所以不敢讓AI獨立干活，又因為AI沒機會獨立干活，所以缺少數據訓練AI獨立干活…。

可以說，AI遇到了應屆畢業生找工作時的困境。

打破這個困境過去主要靠更多的真人數據，比如自動駕駛就是采集更多真人駕駛數據來訓練AI。

2025年，另一個思路值得考慮：大幅降低AI“獨立上崗”的門檻（特殊行業除外）；當AI干活出錯時，開開心心地賠錢給客戶；如果還能降低用戶/客戶的預期，培養客戶對AI犯錯的耐受性，則更好。

AI在真實任務中犯錯的代價，應該被看做是訓練AI的成本。

但根據我的觀察，絕大多數AI公司，即便激進的，在降低AI的上崗門檻這件事上都做得還不夠，哪怕他們自認為已經很寬松了。

人總會慣性地拿上一個技術周期的邏輯來要求今天的AI Agent，但其實不應該這樣，至少未來1-3年不應該這樣。

誰跳出這個思維慣性，誰就有機會積累優勢。

想法2：小模型將會越來越受重視，并且越來越給力。

過去3000年里，人類的腦容量減少了10%，這主要是社會分工和“知識外部化”的結果。今天的人不需要像古人那樣承擔過高的認知負荷，比如你不需要知道如何磚木取火，也不用了解幾百種可以食用的植物。

接下來幾年里，AI也會經歷這個過程，而這其中最重要的原因就是Agent的發展，它本質是AI社會化的過程。

隨著AI更好地與其他知識系統互通，乃至與其他AI互通、協同，今天感覺不太夠用的小模型將會越來越夠用。如果再疊加“知識蒸餾”、參數裁剪乃至其他壓縮模型規模的技術的進步，小模型的未來會很可期。

想法3：創業者的核心功課是4個“圓”——想圓、說圓、做圓、補圓。

如果你是一個創業者，那你需要把你做的事想圓，對內對外把它說圓，努力把它做圓，但萬物總會有裂縫，所以你還要用你的聲望、信譽、心力把它補圓。

關于這4個圓，咱們后面寫文章細聊。

2個收獲 收獲1：

很多種飲食方法都被證明對減肥有效，比如生酮飲食、地中海飲食、低脂飲食等等。這些方法彼此明明南轅北轍，為什么會都有效？背后的原因也許是，關鍵不是看你吃什么，而是少吃。 by 萬維鋼《精英日課》*非原文，憑回憶復述

——當一段話解釋力足夠強時，它可以顛覆認知和行為。比如這段話對我就有這樣的效果，它讓我不再懷疑吃少點真的是減重最重要的方法。

收獲2：

個人經驗里，有一種現象，部分男性，在五十歲左右開始（有的還提前一點），會出現一個階段，不管過去如何能干、如何的頭腦清醒、踏實而雷厲風行，但到了這個階段，都會進入一種心智脆弱而神經質、思維能力嚴重下降同時又執拗固執的狀態，有點類似更年期反應，我稱之為男性中年心智危機期…不知道xxx（某個最近處于風口浪尖的大v）是否屬于這種情況。 by 某群友

——很有趣的觀察。我想原因可能是一方面人到了50歲體能、智力已經下降，另一方面50歲的男人無論其何種職業、圈層，他往往都處于其一生中社會聲望的頂峰，因此面前有比以前更多的“機會”。能力下滑而不自知、機會來了又不忍錯過，自然大失水準、翻溝里去。

1個供你參與討論的問題：

過去3000年，人類的腦容量降低了10%，但沒有證據顯示人比古人愚蠢，那AI的出現，是否會進一步降低人類的腦容量？而這是否會導致人變蠢呢？你怎么看？

文君是誰？

科技領域連續創業者（目前在AI+心理領域），中美3家AI公司的GPT戰略顧問，原阿里巴巴早期移動端核心產品負責人，CEO心智與戰略教練。未來一段時間，也許你關注的某些重要的AI產品，或某些備受關注的項目融資，背后就有他身影。

MindCode是什么？
一個剛剛決定寫點好東西的、很小眾的公眾號。日常發短篇，偶爾有深度長文。關注：AI、腦科學、心理學、創業等。由于在幾個關聯領域都有很深入思考，關注者中不乏頂級牛人，比如xxx和xx。

AI時代，讀他人之未讀對你很重要。關注并發送“1”可加討論小群。