警惕AI的脆弱性

剛 結(jié)束 了 一場 A I 碰撞局 ， 說 幾點 感想 ， 細(xì)節(jié) 有 利害 牽涉 暫時 不說 了 ：

1.合規(guī)的成本越高，越會滋生對AI的需求

這點提到的人不多，但近來卻反復(fù)聽到。

舉個例子，比如某個錄取考試，如果是人負(fù)責(zé)操作，那崗位越關(guān)鍵，來想做額外操作的人越多，而負(fù)責(zé)運營的人未必愿意承擔(dān)這個風(fēng)險。

這時候最簡單的規(guī)避風(fēng)險的方法是什么呢？

使用AI。

類似的，如果對于銷售費用、營銷費用等管理有十分嚴(yán)格的要求，那在人的世界中可能是不可能達(dá)到的，最好的辦法是什么呢？

顯然也是把對應(yīng)的業(yè)務(wù)AI化。

這背后彰顯的是系統(tǒng)的復(fù)雜度超過某個閾值后，AI的需求會直線上升。

反過來這可能是AI嵌入生產(chǎn)過程，成為關(guān)鍵生產(chǎn)要素的必經(jīng)之路。

2.警惕AI的脆弱性

AI因為什么都能干，免不了會被當(dāng)成萬能靈藥。但其實當(dāng)前的AI有著明顯的限制：

它在數(shù)據(jù)成本過高、或者精度要求過高的場景真正產(chǎn)生作用所需要的成本可能過高。（而數(shù)據(jù)成本看起來和業(yè)務(wù)牽涉主體的數(shù)目成正比）

簡單說就是你的投入產(chǎn)出是不劃算的。

所以現(xiàn)在真用AI追求的并非是全面（雖然AGI給人帶來這種幻覺），而是要在特定的切口下把事做深。深特指超過人的水平（）

大模型是要追求全面提升的，但那是做大模型那波人的任務(wù)。

并且即使是大模型在不同的領(lǐng)域表現(xiàn)也是有差異的。

換句話說：AI的應(yīng)用能夠發(fā)揮出自己的強大性是有前提的，這種前提反倒是應(yīng)用的價值所在。

如果某個工作比如編程發(fā)揮作用沒有前提，或者前提是統(tǒng)一的，那
模型公司自己就做了，會把它變成模型的一部分。

AI無疑是強大的，并且會越來越強大，但是：

所有希望把AI變成生產(chǎn)力的人需要警惕AI的脆弱性。

避免投入過大或者過久沒有產(chǎn)出。

大晚上的不寫太多，順道做兩個發(fā)布：

（一） 6.26歡迎到合肥小聚，對AI應(yīng)用往縱深發(fā)展會碰到的問題感興趣的同學(xué)比較適合。

（二） 6.30北大縱橫辦公樓四層歡迎來參加《作者面對面》的活動

時間:6月30日13:30

地點：北大縱橫辦公樓

推薦人沈俊霞老師，柴金龍導(dǎo)演，北大縱橫創(chuàng)始人王璞先生，陳保辰秘書長，多位作家學(xué)者教授媒體人，誠邀您蒞臨現(xiàn)場。

感興趣同學(xué)聯(lián)系:shuixiu2024吧