當(dāng)某MCN機(jī)構(gòu)工作人員發(fā)現(xiàn)自家公眾號被篡改、公司法人信息遭AI換臉技術(shù)非法替換時,這場看似科幻的犯罪手法瞬間撕開了技術(shù)倫理的爭議帷幕。武漢網(wǎng)警破獲的這起案件,不僅揭露了AI換臉技術(shù)的犯罪潛力,更拋出一個尖銳問題:面對這項(xiàng)既能造夢又能作惡的技術(shù),一刀切禁止是出路,還是因噎廢食?
![]()
技術(shù)無罪,人心難測
AI換臉技術(shù)誕生之初,曾是影視行業(yè)的福音。《阿甘正傳》中跨越時空的歷史鏡頭復(fù)刻、《速度與激情》讓逝者"重返"銀幕,這些應(yīng)用展現(xiàn)了技術(shù)的溫情面。然而當(dāng)阿成(化名)們用同一套技術(shù)生成動態(tài)人臉視頻,以千元單價幫人突破電商平臺認(rèn)證時,技術(shù)突然露出了獠牙。美術(shù)專業(yè)出身的阿成或許從未想過,自己接單制作的"人臉代過"素材,會成為非法侵入計算機(jī)系統(tǒng)的鑰匙。
![]()
灰產(chǎn)鏈條上的技術(shù)狂歡
從武漢案件到杭州破獲的電商賬號盜賣團(tuán)伙,AI換臉犯罪已形成完整產(chǎn)業(yè)鏈。上游提供公民人臉信息,中游技術(shù)員制作動態(tài)視頻,下游實(shí)施賬號竊取或法人變更——每個環(huán)節(jié)都精準(zhǔn)踩中法律空白。犯罪嫌疑人王某的供述極具代表性:"做過電商過戶業(yè)務(wù),手里有大量閑置店鋪隱私信息"。當(dāng)技術(shù)門檻降低至"200元一張靜態(tài)人臉",當(dāng)活體檢測能被一段視頻輕易欺騙,我們不得不承認(rèn):技術(shù)迭代的速度已遠(yuǎn)超監(jiān)管想象。
![]()
禁止還是馴服?監(jiān)管的平衡術(shù)
倫理學(xué)家指出,禁止技術(shù)本身如同因噎廢食。影視特效師需要它還原經(jīng)典畫面,醫(yī)療領(lǐng)域用它幫助毀容患者重建自信。問題的核心在于建立"技術(shù)防火墻":互聯(lián)網(wǎng)平臺必須升級至活體檢測3.0系統(tǒng),要求用戶完成眨眼、轉(zhuǎn)頭等隨機(jī)動作;法律層面可參照《深度合成管理規(guī)定》,對AI換臉?biāo)夭奶砑訑?shù)字水印;而普通用戶更需警惕——張女士的1.7萬元店鋪被盜案警示我們,不要在社交平臺隨意上傳清晰正臉視頻。
![]()
武漢網(wǎng)警在通報中特意強(qiáng)調(diào):"掌握AI技術(shù)的專業(yè)人員切勿因貪欲越界"。這或許給出了最佳答案:與其討論是否禁止,不如構(gòu)建"技術(shù)+法律+倫理"的三重柵欄。當(dāng)動態(tài)驗(yàn)證能識別真?zhèn)危?dāng)非法獲利面臨刑責(zé),當(dāng)行業(yè)形成技術(shù)倫理共識,AI換臉才能回歸工具本質(zhì)——就像電可以點(diǎn)亮燈泡,也可能引發(fā)火災(zāi),關(guān)鍵永遠(yuǎn)在于掌控開關(guān)的人。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.