利潤與安全博弈：技術已備，兒童保護明顯滯后

僅在2024至2025財政年度，澳大利亞反兒童剝削中心就接到了近83000起關于網絡兒童虐待材料的舉報，其中絕大多數來自主流網絡平臺。這一數字較上一年度激增了41%。

正是在這種兒童虐待行為于主流平臺上眾目睽睽之下頻發的背景下，澳大利亞電子安全專員朱莉·因曼·格蘭特要求谷歌、蘋果、微軟、Meta以及其他科技巨頭每六個月提交一次透明度報告。

今日發布的最新報告顯示，在檢測已知的虐待材料——包括人工智能生成的材料、直播虐待行為、網絡誘拐以及針對兒童和成人的勒索——以及縮短審核時間方面，取得了一些進展。

報告同時也揭示了持續存在的嚴重安全漏洞，這些漏洞依然將用戶，尤其是兒童，置于風險之中。這清楚地表明，僅有透明度是遠遠不夠的。正如目前外界呼吁確立法律強制的“數字審慎義務”那樣，我們需要從僅僅記錄傷害，轉向通過更好的設計來預防傷害。

這些透明度報告對于企業滿足監管要求至關重要。但電子安全專員發布的這份最新“快照”顯示，在技術所能達到的高度與企業實際采取的遏制網絡傷害的行動之間，仍存在著一道鴻溝。

其中的一個積極發現是，擁有Snapchat的Snap公司已將其對兒童性剝削和虐待內容的審核響應時間從90分鐘大幅縮減至11分鐘。微軟也擴大了其在Outlook郵箱中檢測已知虐待材料的范圍。

Meta和谷歌繼續放任其視頻通話服務（如Messenger和谷歌會議）處于未受監控的狀態，無法應對直播式的虐待行為。盡管它們在旗下的其他平臺上使用了檢測工具，卻唯獨遺漏了這一領域。

電子安全專員的報告特別指出，蘋果和Discord未能實施主動檢測措施。蘋果幾乎完全依賴用戶舉報，而非自動化的安全技術。

目前的現狀是，蘋果、Discord、谷歌的聊天與會議服務、微軟Teams以及Snapchat，均未使用現有軟件來檢測針對兒童的勒索行為。

專員認定的最大隱患區域在于直播視頻和加密環境。目前，針對檢測在線直播兒童剝削和虐待工具的投入依然不足。盡管微軟擁有的Skype在關閉前曾實施過此類保護措施，但微軟Teams和其他提供商至今仍未能做到這一點。

與報告同步發布的還有一個新的儀表盤，用于追蹤科技公司的進展。該儀表盤突出了關鍵指標，包括用于檢測有害內容的技術和數據源、用戶舉報的內容數量（這通常意味著自動化系統未能捕捉到這些內容），以及公司內部信任與安全團隊的規模。

電子安全專員指出的持續性漏洞表明，當前的報告要求不足以讓平臺變得安全。

行業理應將安全置于利潤之上。但除非法律強制要求，否則這種情況鮮少發生。正如《在線安全法》審查所提議的那樣，立法的“數字審慎義務”是解決方案的一部分。

這將使科技公司在法律上負有責任，必須在產品發布前證明其系統在設計上是安全的。 與其等待報告揭示長期存在的安全漏洞，審慎義務將要求平臺盡早識別風險，并實施現有的解決方案，例如語言分析軟件和威懾性信息。

為了阻止人們分享或獲取有害及非法材料，我們還需要關注威懾力，并鼓勵人們尋求幫助。這正是兒童虐待材料威懾中心的核心關注點，該中心由耶穌會社會服務機構與塔斯馬尼亞大學合作建立。

通過與主要科技平臺的合作，我們發現主動的安全措施能夠有效減少有害行為。證據表明，有一種尚未被充分利用的關鍵工具，即實時威懾和阻斷違規行為的警告信息。

當新的或已知的虐待材料被分享，或者對話被檢測為勒索或誘拐時，系統可以觸發此類信息。除了阻斷行為外，平臺還可以引導用戶尋求幫助。

這包括將人們引向支持服務，例如澳大利亞的“立刻停止！”熱線。這是一項針對成人的兒童虐待預防服務，專門面向那些對自己（或他人）針對兒童的性念頭或行為感到擔憂的人群。

電子安全專員持續敦促各大公司采取更全面的方法，解決其平臺上的兒童剝削和虐待問題。技術早已存在，但如果使用這些技術可能會減緩用戶增長或影響利潤，公司往往缺乏使用的意愿。

透明度報告向我們展示了行業的真實狀態。

此刻，它們揭示了一個明明知道如何解決問題，卻行動遲緩的行業。我們需要超越僅僅發布報告的階段，通過加強立法，讓安全性成為一種標準，而不僅僅是一個附加功能。

技術構筑了龐大的數字迷宮，而算法掌握著照亮幽暗角落的火把。當代碼的效率與孩童的安全被置于天平兩端時，選擇權不應僅在商業巨頭手中。屏幕背后的每一次猶豫，都可能意味著一個孩子在黑暗中多停留一秒。這不僅僅是關于監管的博弈，更是對技術倫理底線的一次終極叩問：在一個萬物互聯的時代，我們是否愿意為了保護最脆弱的群體，去重新定義“進步”的含義？