快手遭自動化攻擊：網絡安全進入工業化對抗時代 | 新京報專欄

這次事件或將導致公眾對全人工審核的浪漫想象徹底破產，“AI對AI”的治理邏輯將被接受。

▲12月22日晚，眾多網友反映快手直播間出現大量色情內容，包括播放淫穢影片、主播擦邊低俗表演等。圖/九派新聞

文 | 信海光

12月22日晚，快手平臺出現大量違規直播內容，平臺隨后回應稱系遭遇黑灰產攻擊，并已報警處理。

表面看，這是一次突發的內容安全事故，但若將其放入更大的技術與產業背景中，則警示著，伴隨技術的迅速迭代，AI可能被用來“作惡”的一面開始顯露，互聯網平臺的安全對抗邏輯也正在面臨重大轉變。

據媒體報道，此次黑灰產突襲發生在晚間22點左右，在快手平臺上，大量直播間在短時間內被惡意注入色情、低俗等內容。峰值時段約有1.7萬個被控“僵尸賬號”同步開播，形成刷屏效應。涉事直播間觀看人數最高接近10萬，評論區充斥著不堪入目的留言。

更嚴峻的是，此階段部分用戶舉報功能短暫失效，顯示黑灰產在投放違規內容的同時，還對平臺處置通道實施了干擾。直到一小時后，平臺才基本清除違規內容，將涉案賬號全部凍結。此事導致快手股價在次日產生劇烈波動。

警惕“系統性風險”

回顧互聯網發展史，如此規模的惡意網絡攻擊事件實屬罕見，背后操縱者如此大張旗鼓，似乎并非只是為了盜取利益，而更像一次兇相畢露的“示威行動”。這是國內首次在頭部平臺上出現的由AI驅動、自動化、短時間爆發式的違規內容攻擊事件。

在這次攻擊中，黑灰產不是依賴零散賬號、人工操作，而是通過自動化工具批量注冊、控制賬號，在極短時間內完成內容生成、發布與擴散。它突破了平臺的常規安防與監管措施，造成了巨大的負面影響。

所謂道高一尺魔高一丈，自從有互聯網以來，網絡攻擊便隨之而生，而且攻擊手段的提升也與網絡技術的進步高度同頻。

此次攻擊“自動化”特征非常明顯：攻擊者借助自動化工具批量注冊、操控僵尸號在同一時段集體開播，實現違規內容的秒級發布與擴散，這種規?；敉耆鋈斯徍说膽獙O限，造成短時間內的安全破防。某網絡安防企業對此評論稱，這是網絡黑灰產利用AI技術發動的有組織、有預謀的攻擊，標志著網絡攻擊已經進入全新的工業化階段。

目前尚無法得知攻擊者使用了什么樣的AI技術，但AI技術的使用本身，使這次事件的警示意義已經超出了網絡安全層面。AI的崛起一直伴有擔憂與爭議，但大多數是情緒層面和宏觀層面，比如擔心AI未來會統治人類，AI取代人類工作等。

而在此次快手事件中，公眾并不太會因此突然擔心“AI有了自我意識”，卻會面對一種更現實，也更危險的新現象：AI正在幫助把作惡行為變成低門檻、可復制、可規模化的事情。

在此之前，人們接觸的利用AI“作惡”主要是帶來個體風險和倫理風險，比如換臉、盜竊、假視頻、假直播、算法歧視、隱私侵犯、知識產權等，這些問題雖然也很嚴峻，但總歸是在短期可控之內。

但在快手事件中，當違規內容在AI技術的操弄下像洪水一樣涌來，公眾感受到的不再是個別技術問題，而是一種秩序被撕裂的失控感，目睹上萬個賬號違規內容的刷屏，就像圍觀一種網絡奇觀。

如果技術先進的互聯網平臺企業都被攻破，那么未來，當互聯網和AI成為社會基礎設施，更強大的攻擊是否會引發相應的系統性風險？我們是否已經有所準備？

秉持“AI對AI”治理邏輯

此次事件警示，必須立即開始直面AI技術正在成為新的放大器型風險源的可能。當它被濫用時，誰真正能按下剎車？

在以往公眾的認知中，潛意識里對平臺企業有一種兜底性的信任存在，總以為平臺能夠通過技術手段以及人力監管把潛在危害及時掐滅，但此次快手事件中平臺的“破防”揭示了另外一種可能。進而引發一種擔心，如果平臺都扛不住，那普通社會系統呢？

無疑，此次事件的發生，各大平臺都被劇烈震撼，其在安全運營領域將普遍面臨從單一防御向系統性治理轉變的新課題與新挑戰。但面對挑戰的，絕不僅僅是平臺企業，而是全社會。

AI作為技術大潮勢不可擋，這類事件的出現也勢所難免，而它一旦真的出現，不會導致社會否定AI，只會強化監管共識的加強。以前很多監管討論偏抽象，比如“AI向善”“算法透明”，今后則會逐漸走向實戰，這實際上對監管層提出了更高的要求。

平臺所肩負的責任也將升級，在大力宣揚AI的同時，平臺也需證明自己能否駕馭AI，有沒有自動化防御能力，是否有極端場景演練，是否設定熔斷、降級、止損機制？同時，這次事件或將導致公眾對全人工審核的浪漫想象徹底破產，“AI對AI”的治理邏輯將被接受。

快手事件雖然嚴重，但還沒到天塌下來的地步，它更像一個觸發器，引出一個未來已來的現實風險：如果作惡方未來進化到工業化、自動化、AI化，治理方是否做好了足夠的準備呢？

撰稿 / 信海光（專欄作家）

編輯 / 遲道華

校對 / 李立軍