![]()
2024年11月,互聯網上AI生成的文章,在數量上第一次超過人類。
ChatGPT發布一年多一點,它和它同類就完成了在文字上灌水淹沒人類的壯舉。
AI生成的內容熟練上來了,質量卻很堪憂,不少低質量或者虛假內容大行其道。
最近就有報道說,AI生成網文已經非常成熟,只需輸入故事大綱、人物設定,在大模型中加以訓練,就能生成相應文章——畢竟這些低質量網文很是套路,在第幾章扇幾個耳光,下幾次藥都能猜到,讓AI寫速度顯然更快。
官媒認為這些低質量AI生成內容,對青少年有相當大的毒害作用。
不過說白了,這些低質量AI文字、視頻生成內容頂多有些辣眼睛,影響心情。
批量生成的AI垃圾還有更大的危害,不在AI生成文字或者視頻上,而在AI編程上。
今年3月,我國日均token調用量已超過140萬億,相比2025年底增長了40%多。
多出來的這部分,很大程度上是使用OpenClaw消耗的。
很多人用OpenClaw沒白沒黑地寫代碼,認識到了AI編程的妙處。
以前有個笑話,說當年全民創業,總有人一拍腦袋想到一個好項目,就差個程序員就能創業了。
現在很多人得到了他們夢想中的程序員,還是個AI,不吃不睡,簡直完美!
于是很多人用AI做出了他們一直想做的應用。
然而,絕大部分人的想法很平庸,他們的想法變成App也不會優質到哪里去。更何況很多人不會編程,全靠AI編程,生成的代碼也不會檢查,結果就是生成了一堆垃圾App。
他們還要把這些垃圾App上傳到蘋果App Store上,導致蘋果App Store申請被垃圾淹沒,不知所措,如今蘋果App Store上架審核因為垃圾申請太多,審核時間從24-48小時增至最長45天。
看到這有人就說了,不是說好了AI智能體取代App嗎?App已經是冢中枯骨,無足輕重,只要大力發展智能體,繞過App,大家都不用App了,現在App Store被垃圾淹沒的問題自然就會解決。
問題來了,你以為智能體,就逃得過被AI灌水,被垃圾淹沒的命運嗎?
智能體最近大火,本質上是因為它能自動拆解任務,調用工具解決問題,而智能體調用的工具叫skill,具體問題都是通過skill解決。
skill顯然不是天上掉下來的,也是人編出來的。
最近有篇論文,統計了skill的常用獲取渠道skills.sh上的四萬多個skill,發現其中一半左右連名字都是重復的,更別說功能了。
如果都是些重復的垃圾也無所謂,就怕里面含有有害垃圾——你猜怎么著,還真有!
該論文把skill 對你的信息權限分成了四檔
安全:只讀公共數據,無副作用;
隱私風險:讀取敏感數據/個人信息,無狀態變更;
中等風險:有限的狀態變更操作,可逆轉;
嚴重風險:金融操作、不可逆數據銷毀、系統級配置、任意代碼執行。
其中光是嚴重風險那檔的skill就占據這四萬多個skill里的9%。
![]()
☉數據來源:Agent Skills: A Data-Driven Analysis of Claude Skills for Extending Large Language Model Functionality
也就是說,你在skill.sh上隨意部署十個skill,就可能有一個能刪掉你的數據或者轉走你的錢。
都說OpenClaw權限大,本地部署有危險,我看安裝其他skill照樣有危險。
App Store好歹有審核,雖然審核現在因為垃圾App太多慢下來了——skill審核都不嚴格,上面很多有害垃圾,隨時可能卷走你的錢,你就不怕嗎?
智能體太能干活了,以至于大家現在都還處于初期興奮狀態。等到冷靜下來,就會發現,給智能體的權限太大,實在太危險了。
這已經不是簡單的垃圾淹沒互聯網的問題了,是垃圾里混合著毒藥,還鼓勵你一口都吃下去。
吃成個大胃袋都算好事了,可別把自己吃死了。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.