程一笑搞得了AI，但躲不過黑產(chǎn)的“暗箭”？

這個結(jié)果顯然不是程一笑想要的。

12月23日，因?yàn)橐粓龃笠?guī)模網(wǎng)絡(luò)攻擊，快手APP一度沖上App Store中國區(qū)免費(fèi)榜第二位。但同時，快手股價盤中一度下跌5.7%，截至今日收盤，下跌3.52%。

就在前一晚22時左右，快手APP多個直播間出現(xiàn)涉黃、低俗、暴力內(nèi)容。比如，有直播間播放色情影片；還有類似手術(shù)縫合的直播，場面血腥；還有違規(guī)直播間單場觀看逼近10萬人，評論區(qū)留言更是不堪入目。

圖源：“甘德霜講故事”公眾號配圖

多位用戶反饋，看到違規(guī)直播間點(diǎn)擊舉報后，系統(tǒng)提示“失敗”或長時間無響應(yīng)。這一狀況，持續(xù)至深夜，平臺才緊急“無差別關(guān)停”直播頻道，次日凌晨2點(diǎn)才逐步恢復(fù)。

這幾個小時，快手經(jīng)歷了堪稱近年來中文互聯(lián)網(wǎng)最嚴(yán)重的安全事故。

但快手的表現(xiàn)，讓包括前員工在內(nèi)的用戶吐槽為“草臺班子”，對其審核機(jī)制、應(yīng)急預(yù)案以及安全策略提出質(zhì)疑。甚至關(guān)聯(lián)到快手近期的新一輪裁員，調(diào)侃快手“裁到大動脈”。

快手官方在當(dāng)晚的通報中確認(rèn)，事件為“黑灰產(chǎn)惡意攻擊”，并說明有部分用戶賬號被盜用。平臺已向公安機(jī)關(guān)報案，并將聯(lián)合監(jiān)管部門開展溯源，同時通知相關(guān)用戶完成賬號核驗(yàn)與安全重置。

網(wǎng)易科技比較精細(xì)的還原了整個事件的始末，稱，有快手員工表示，（事件爆發(fā)時）正是快手下班的時間。

但攻擊并非毫無征兆，當(dāng)晚21時30分起，已有零散用戶反映登錄驗(yàn)證碼加載異常、視頻播放卡頓，少量主播稱直播推流不穩(wěn)。這些細(xì)微異常多被歸為網(wǎng)絡(luò)波動，未引起廣泛警覺。

22時整，攻擊全面爆發(fā)。據(jù)監(jiān)測數(shù)據(jù)顯示，峰值時段約有1.7萬個被控“僵尸賬號”同步開播，直播間集中推送色情低俗內(nèi)容，形成刷屏效應(yīng)。

期間，部分用戶舉報功能短暫失效，大概率是黑灰產(chǎn)在投放違規(guī)內(nèi)容的同時，還對平臺處置通道實(shí)施了干擾。

12月23日中午，快手在港交所發(fā)布公告稱，平臺的直播功能在2025年12月22日22時左右遭到網(wǎng)絡(luò)攻擊，公司已第一時間啟動應(yīng)預(yù)案，經(jīng)全力處置與系統(tǒng)修復(fù)，直播功能已逐步恢復(fù)正常服務(wù)，其他服務(wù)未受影響。

快手還表示，“本公司始終嚴(yán)守合規(guī)底線，堅(jiān)決反對任何違規(guī)內(nèi)容及行為。本公司強(qiáng)烈譴責(zé)黑灰產(chǎn)的違法犯罪行為，已就上述事宜向公安機(jī)關(guān)報警并向相關(guān)部門報告，并將視情況采取其他適當(dāng)?shù)姆裳a(bǔ)救措施，以保障本公司及其股東的權(quán)益。”

但直到目前，快手還沒有對外披露此次事故發(fā)生的原因。

相關(guān)猜測多來自網(wǎng)絡(luò)安全公司或者從業(yè)者，其中一個觀點(diǎn)是：此次攻擊中，黑產(chǎn)團(tuán)伙利用“接碼平臺”批量獲取虛擬手機(jī)號，繞過實(shí)名認(rèn)證環(huán)節(jié)，通過自動化腳本注冊或盜用沉睡賬號（即“僵尸號”），在同一時間開啟約1.7萬個直播。這些賬號開播即違規(guī)，被封即棄，不留操作痕跡。

雖然是受害者，但快手還是需要認(rèn)真回答這些問題：為什么是現(xiàn)在？為什么是快手？

程一笑只有給出回答，才能真正度過這次危機(jī)，以及對短視頻行業(yè)產(chǎn)生的震蕩。要知道，這不是某個小平臺的偶發(fā)事故，而是發(fā)生在日活達(dá)4.2億的快手身上。

盡管快手宣稱，平臺采用“AI審核+人工復(fù)核”雙軌機(jī)制，并且是初審與復(fù)審的雙層審核制度。此外，快手直播還需要賬號先進(jìn)行實(shí)名認(rèn)證。

這也是包括直播在內(nèi)，國內(nèi)內(nèi)容平臺普遍采用的審核機(jī)制模板。

但此次事件中，黑灰產(chǎn)能夠輕易攻破快手的“防火墻”，該體系明顯承壓崩潰，并將快手風(fēng)控體系與審核機(jī)制的短板暴露在公眾面前。而且，快手的審核機(jī)制還暴露出兩個關(guān)鍵問題：

一是AI模型對錄播類違規(guī)內(nèi)容（如直接播放淫穢影片）識別滯后；二是缺乏應(yīng)急熔斷機(jī)制，在突發(fā)性高并發(fā)攻擊下無法優(yōu)先處置高危直播。

不少行業(yè)人士關(guān)注到，快手日活雖然追趕抖音無望，但還是一直在緩慢增長。

與之對應(yīng)，快手在內(nèi)容審核方面的投入?yún)s增長緩慢。字母榜提到，2023年，快手內(nèi)容審核培訓(xùn)參與人數(shù)超過5600人，培訓(xùn)場次為26786場次。到了2024年，這一數(shù)據(jù)分別是6453人和21760場，場次同比減少5026場次。

日活在增長，培訓(xùn)場次卻在減少。雖然沒有證據(jù)表明，快手裁員波及到安全團(tuán)隊(duì)，但在“降本增效”的指令下，風(fēng)控與審核等非直接創(chuàng)收部門是否獲得足夠資源投入，確實(shí)是一個大問題。就像有網(wǎng)友評價，“安全投入看不見ROI，最容易被優(yōu)化。”

當(dāng)下的快手，正在程一笑的帶領(lǐng)下，全力豐富AI故事。后者正親自帶隊(duì)推進(jìn)大模型“可靈”，強(qiáng)調(diào)“AI優(yōu)先”戰(zhàn)略。

今年三季度財(cái)報財(cái)報電話會上，程一笑表示，從AI 技術(shù)創(chuàng)新到應(yīng)用落地，再到營收增長的良性循環(huán)，正在快手內(nèi)部形成。他指出，“從長期來看，我們相信這種全方位的 AI 應(yīng)用生態(tài)，能夠使快手具備更強(qiáng)的市場適應(yīng)性和增長潛力。”

需要補(bǔ)充的是，今日早間，360數(shù)字安全復(fù)盤快手直播事故，稱這是一場精心策劃的AI化攻擊。

如果快手最后給出的解釋也是這樣，那這輪危機(jī)就顯得戲劇性：AI的魔法對轟，快手落了下風(fēng)。

或者說，程一笑搞得了AI，但他沒能躲過黑灰產(chǎn)的“AI暗箭”。

對于整個短視頻行業(yè)而言，程一笑遭遇的這輪暴擊，也是敲響一記警鐘。

就像我的一個朋友，在看完昨晚快手的直播內(nèi)容后說，快手是否面臨合規(guī)責(zé)任暫時不知道，但它確實(shí)替友商扛住了一輪壓力。接下來，就看短視頻甚至內(nèi)容行業(yè)，如何應(yīng)對和作答了。

我的另外一個朋友，“甘德霜講故事”也發(fā)文說，快手提供了一個釋放的窗口，作為每一個借此宣泄過的參與者，我們要做的是，不能是嘲笑他，而是批判性地同情他。

36氪頭條轉(zhuǎn)載：

虎嗅推薦：

36氪首頁推薦、鈦媒體精選：

鈦媒體主編精選：

36氪熱榜、鈦媒體熱榜：

澎湃、界面、36氪、鈦媒體熱榜：

人人都是產(chǎn)品經(jīng)理主編推薦：

「唐辰同學(xué)」

鈦媒體、36氪、老虎財(cái)經(jīng)熱榜

澎湃新聞2024年最澎湃創(chuàng)作者

老虎財(cái)經(jīng)2024年度優(yōu)秀專欄

河南日報·頂端新聞2024年度影響力作者

界面新聞優(yōu)質(zhì)榜單

老虎財(cái)經(jīng)2024年度優(yōu)秀專欄

騰訊新聞年度優(yōu)質(zhì)熱問答主

2023搜狐新聞年度優(yōu)質(zhì)創(chuàng)作者

人人都是產(chǎn)品經(jīng)理2023年度優(yōu)秀作者

2023網(wǎng)易新聞年度內(nèi)容合伙人

界面、36氪、鈦媒體、澎湃、21財(cái)經(jīng)、藍(lán)鯨、老虎財(cái)經(jīng)等平臺專欄認(rèn)證作者