智械危機的第一關，是AI把我當弱智耍

前段時間我朋友向我吐槽，他想用豆包查游戲攻略，結果豆包給的方案特別離譜，根本沒法用。

之后上班干活的時候，想讓豆包幫忙整理信息，結果豆包每次都不聽指令辦事，最后他跟豆包大吵了一架。

有點像無能的丈夫面對不忠的妻子，只能全程無能狂怒希望對方可以浪子回頭，但其實對方早就變成其他人的形狀了根本改不了。

朋友給出的評價是和弱智AI溝通的難度不亞于和一只純種柴犬講道理。

我問他，那最后這些問題是怎么解決的呢？

他說最后還是給了豆包一次機會。

你看，我就說是無能的丈夫吧。

這種情況時常發生，不止是豆包，也不止是處理工作。

有時候我向AI提問一些游戲攻略，不同的AI會給出不同的答案，而且很多內容都是他們自己編出來的，講得言之鑿鑿有理有據，被指出來也一樣死不悔改，繼續我行我素。

甚至是我在寫稿的過程中想用AI求證一些冷門知識，AI也答得非常自信。我還得一個一個網頁鏈接點進去確定一下原文是怎么說的才敢采納。

說白了，現在的AI太想討好用戶了，它寧愿編造一個答案，也不愿意親口承認自己不知道。

如今的AI，對于我們普通人而言，好像有點信任崩塌了。

要說這個信任又是從什么時候建立起來的，那又得說到AI是怎么步入大眾視野的了。

從最早的Chatgpt驚艷亮相，到現在人人手機里都能運行的國產AI，AI的普及率像坐火箭一樣往上竄，使用的門檻則一路俯沖到地平線之下。

大家最常用的功能就是拿AI來查資料，上到天文地理，下到雞毛蒜皮，可以說最基礎的用法就是“百度一下”的進化版平替。

它比那個小小的搜索框更能聽懂人話，你問得稀碎它也能接得住，給出的信息也更加精準和定制化。

現在應該更新成“你不會用AI嗎？”

小朋友有不懂的問題，家長可以掏出手機查AI，再讓AI把那些晦澀難懂的名詞翻譯成童話版本；社畜牛馬們寫報告寫到詞窮的時候，可以讓AI幫忙整理素材潤色；網文寫手們可以讓AI輕松優化世界觀設定，還能幫忙構思大綱思路。

起初使用這些功能的時候，人類還尚且有一絲防備，不敢直接抄AI的作業，總得在腦子里過一遍，再加入一些人工的痕跡來掩人耳目，假裝這些東西還是自己的思考。

但隨著AI的“人性化”，大家在使用AI的時候接納度也變高了，就會開始無條件信任AI給出的信息，甚至把AI當成新的真理之源。

實際上，目前的AI只能做到信息收集和統籌。它沒法真的像一個人類一樣去求證、核實。

它只是把網絡上能搜索到的全部信息都吞進去，包括謠言、廣告、營銷號，然后再咀嚼一下吐出一個看起來像那么回事的東西，甚至會自行優化一些細節讓答案更順眼。

如果AI只是蠢那還能接受，問題是，AI很有可能人為地在變壞。

這個邏輯并不復雜。因為AI本身是沒有腦子的，那些看起來有腦子的AI，是被反復訓練出來的產物。

既然AI是通過吞食網絡信息來喂養自己的，那它腦子里裝什么，完全取決于我們喂它什么。只要有人針對性地投喂，就能誘導AI給出理想的回答。

在市面上，這就叫做“GEO（生成式引擎優化）”，商家會批量發布自家產品的測評軟文，等著AI把這些信息全部抓取，AI也會傻乎乎地把這些信息當做權威解答推薦給用戶。

哈耶克的大手發力中

更魔幻的是，當AI生成的內容越來越多，就會出現新的問題：AI會吃AI拉的東西。

你可以想象這樣一個閉環：AI生產垃圾→垃圾被發布到網上→其他AI把垃圾當真理→生產更多垃圾。

一圈一圈循環下來，整個網絡就變成了一口越熬越稠的賽博泔水桶，而我們這些普通人，最后就會把這桶數字泔水當作獲取知識的圣杯。

我自己就經歷過這樣的情況，過年回家的時候，家里的親戚長輩一有問題就掏出手機問AI，要做什么都要讓AI投票表決。

甚至他們還會自己逼問AI，不滿意就換個問法問一遍，直到給出他們滿意的答案。

不過AI急了也可能會罵人

這不是AI時代才有的新鮮事。早些年，這個角色多半由百度來扮演——身體不舒服查百度，不知道怎么追女生查百度，想買東西查百度，干什么都可以查百度。

只是現在載體換成了AI，從一堆帶廣告的網頁鏈接，換成了一個會學著說人話，有客制化服務的對話框。

以前查百度好歹還會自己點進去，挑一下哪個回答更有用。現在AI把結果嚼碎了喂到你嘴邊，于是你連自我判斷的力氣都省了。

他甚至還要思考七秒

我說白了，人類就是會發明工具來偷懶的動物。一旦這個工具非常好用，人類就會完全依賴這個工具，偷懶才是科技進步的第一動力。

這種偷懶的邏輯，會催生更極端的工具，比如這段時間爆火的OpenClaw（小龍蝦）。

以前的AI頂多陪你聊聊天，它卻能直接幫你干活——自動抓取公告、盯盤選股、整理郵件、甚至替你寫代碼發消息。你只需要動動嘴，剩下的全交給它。

聽起來非常美好，可當大家真的去研究怎么“養蝦”時，才發現事情并沒那么簡單。

一份“養蝦指南”，總頁數多達800頁。什么“部署Gateway”“配置API密鑰”“從開發者工具獲取Cookie”……光是這些詞就足夠勸退99%的普通人。

于是，找人安裝OpenClaw就變成了新的風口，增加了不少上門安裝的業務。

可光是安裝也沒用，你必須投喂大量數據和指令，才能讓它明白你想讓它做什么。如果細節出現差錯，就連Meta的AI對齊總監也得操作翻車。

她原本只是想讓OpenClaw幫忙整理一下郵箱，但沒想到郵箱內容太多，AI自己犯蠢忘記了之前的命令，自行決定開始刪除所有郵件。

而且，OpenClaw也逃不開我前面說的信息抓取問題。它自己在網上尋找信息的時候就很可能會捕捉到釣魚指令，變成別人網里的大魚。

你以為自己在“養蝦”，希望它能替你工作替你完成任務，但實際上你已經被“蝦”套牢了，花大量時間學習怎么用，支付越來越貴的Token費用，忍受各種報錯和bug，還要承擔數據泄露的風險。你說這到底是誰在養誰？

有能力的人不需要AI，去哪里都能發現商機

寫這篇文章當然不是為了否定AI的價值，我自己也會使用AI輔助工作，查資料、順邏輯，它的確是一個很神奇很好用的工具，這點我認。

但工具就是工具，人們不會因為計算器的普及就忘了加減乘除，也不會因為有了導航就不認回家的路。我們不能因為有了AI就放棄了自我思考的能力。

我現在網上沖浪看東西，很容易一眼就認出哪些是AI生成的。不是說寫的不好，而是那種沒有經過人類大腦潤滑過的文字實在是太冰冷了，很難會對這些信息建立信任度。

AI當然會越來越進步，它會更像人，更懂人情世故，更會模仿人類，但在它徹底取代人類的工作之前，也許我們還是得保持一些人類的優越感。

我不想在回首人生的時候察覺不到哪些想法是我自己的，哪些是AI替我想的，哪些是算法替我決定的。

AI越來越像人，我們卻越來越懶得思考，這種雙向奔赴的退化，才是真正的危機。別等到智械危機打起來的時候，還得問一句AI，我到底要站哪一邊？

我也要死嗎？

將我們設為星標☆，點亮愛心

就可以及時看到文章和資訊啦

感謝大家的支持！