我確實低估了deepseek所引發的大面積“AI幻覺”

所謂ai幻覺，說人話就是：大數據模型一本正經地給你胡說八道，但是由于其輸出過程過于有條理有邏輯，且表述過程中甚至不惜引經據典，加上“AI很強”的外部氛圍，導致你一不留神，就會誤以為真——其實通篇都在扯淡。

AI幻覺這玩意兒不是新鮮事，早在ChatGPT剛推出時已經有了“很多”討論，后面到了o4、o1以及現在最新的o3，一方面是癥狀減輕了，另一方面是因為我們已經積累了足夠多的、與ChatGPT斗智斗勇的經驗了——不停地在google做fact-checking，一遍又一遍地跟它argue。

但，我確實低估了兩件事：

1）ChatGPT的高門檻。限定梯子+如果你要流暢訂閱ChatGPT Plus你甚至有一張香港銀行卡都不行，因為Open AI在香港未開通付費服務。過去幾個月我幫助了好幾位朋友開通ChatGPT Plus訂閱，很多朋友都是老網民了，依然搞不定，其門檻真的高得離譜。

2）與之相比，從春節前開始爆發的，因為deepseek之低門檻、免費、人人可用（甚至我給爸媽手機都裝上了，跟他們說這是baidu最新款 emmm，以后不用百度用這個），其在簡中的普及程度并非ChatGPT可比。也因為deepseek之免費，許多用戶是以休閑、體驗、分享的心態來使用，而非我身邊的自媒體從業者，愿意一個月給美帝20刀購買ChatGPT訂閱——因為這是吃飯的家伙，所以會不停地總結工具的使用心得，鍛煉出強勁的fact-checking經驗。

3）當然，也是因為ds在中文本地化的語境中，打造出了一套更適合中國國情的表達方式，中文表達更優于chat；“邏輯正確，答案也正確”，這種潛移默化的思維（如果你在大廠上過班，你一定會修煉出所謂的，通過一份ppt，把一團垃圾的結果，匯報成一場偉大戰役的功夫），我們理科至上、文科生靠邊站的思維，使得人稍不留神就被中招。

最終的結果，就是dk生成了大量的、天馬行空的謬誤。這些謬誤，嚴重地污染了簡體中文互聯網（而本身deepseek在信源引用上，跟ChatGPT相比，確實做得不如）。

今日公眾號上看到一篇，好家伙，幻覺都變長城了，好文章。感興趣可以看看。

如今在小紅書上，可以刷到了無數ds生成的帖子，前陣子我看到一個很有代表性，叫做《我聽了這么多年五月天，還不如deepseek》，大概是讓deepseek說說五月天音樂里的彩蛋：這里面全特么是扯幾把蛋，但是評論區里都是大呼小叫，我留言了一句：我說你們就不能自己去查查看嗎？沒人理我。

兩周前我的朋友紅老師也在第一時間試用了deepseek之后給我發來賀電，分享了她和ds討論她的愛豆woodz的音樂風格、路線、趨勢，因為我曉得deepseek對音樂文本的無能，所以本能反應也是——這特么的一眼假啊。邏輯沒問題，但是這里面的論據、信源都是扯淡的啊。它本義就是一個大數據生成（搜索）模型，如果本身信源是不存在的，它能怎么得知呢？

我就隨便點開紅老師發給我的圖：隨便進去一首歌吧，這里說：

1.人聲處理黑科技

·雙聲道交替(《Trigger》副歌)：左右聲道分別錄制不同音高，營造眩暈感

這，我壓根沒聽出這首歌里的左右聲道有什么高八度低八度，而且不同音高本身根本不會制造眩暈感啊，如果要左右聲道錄double、通過音高作出區分，那是增強力道?。垦灨惺峭ㄟ^混響、延遲整的?。縟eepseek你在說啥呢？

·呼吸聲放大(《Bump Bump》前奏):將吸氣聲提升 6dB作節奏組件

這首歌前奏哪里有吸氣聲了……？吸氣聲提升6db做beat？不是哥們，這是什么玩意兒啊？就算我當你是有吸氣聲，但是“提升”肯定要有相對對吧，你是跟什么相對呢？你推大音量，你也要有“標準”對吧？這完全就是一個狗屁不通的描述?。?/p>

·元音拉伸(《Waiting》橋段):將”oh”音采樣后時間拉伸 300%制造太空感

不是哥們，這首歌有bridge嗎？橋在哪里？我連橋都找不到。

哦哦，說的是副歌后面的那個oh了一下的？這個真要說應該是“后副歌”，以及……這樣采樣拉伸300%，也是純粹扯淡了。

好好好，下面還有：

2.節拍設計密碼

反拍陷阱:在 4/4拍中植入7/8拍吉他切分(《Dirt on my leather》)

Dirt on my leather這首歌確實是四四拍，確實也是走的rock band風格，有一把電吉他從頭貫穿始終，但是7/8從何而來？這吉他彈的就是一個比較hard rock的，一直在彈call & response，節拍是一直跟著鼓組的，并沒有任何復合節奏的意思。

心跳模擬:BPM嚴格對應心率變化曲線(《l hate you》從72BPM漸增至128BPM)

喂喂喂，這首歌從頭到尾的速度都沒有變化?。緽PM一直穩定在86左右啊，這心率曲線是什么來的？

破碎節拍:用 Ableton Live的 Beat Repeat功能隨機切碎鼓組(《Chaser》)

Live里面確實是有一個叫做Beat Repeat的功能，打開里面確實是能把鼓組切碎，但是這首chaser里面，鼓組一直都是非常穩定的?。磕睦锼榱?？

所以到了后面風格預測那些，大可笑笑罷了。

我確定了，紅老師這是對我進行釣魚，他就是希望以此摁頭讓我去聽他家愛豆的歌，讓我好好復習一下，然后讓我去懟DeepSeek，讓我給她說說，未來她的哥哥音樂會怎么走，她一定是在釣魚。100%的。

總之，AI幻覺不是deepseek的問題，ChatGPT也一樣跑火車，當然ChatGPT跑的程度會少一點（最新發布的o3貌似跑得離譜一些了），可deepseek的語言模型實在太真了，太言之確鑿了，而且使用ds的門檻太低了，適用人數太多了，這里所造成的ai幻覺，確實是長城一般了。如之前紅老師給我發的這些，我當然可以說，一眼假，不信我打開歌曲聽聽，看看是不是都是扯淡——但是，如果討論的是我不清楚的領域呢？我能否有這么輕松的方式去鑒定真偽？就像如今的xiaohongshu里，到處都是“我跟ds聊了聊XX”的內容，每次標題都很酷，我都點進去看了，結果又變著戲法再推給我這些玩意兒。AI確實是很強大的東西，但目前的AI有著巨大的技術缺陷，“顛覆了傳統知識傳播鏈條——專業論文→科普文章→網絡內容”，你以為AI里面說的都是對的，尤其是它說出大量的專業詞匯、超出你的學科認知的時候，其信息量之大，你幾乎無從下手，無可辨別。

人無可替代。這是Ai自己都知道的事兒。???????