這兩天,視頻大模型Seedance2.0在國內(nèi)外社交平臺上,掀起一陣刷屏式傳播,各種腦洞大開的畫面刷屏引發(fā)熱議與思考。
![]()
有網(wǎng)友第一時間就提出,亂套了,真假難辨。
對于部分不添加AI標(biāo)識,誤導(dǎo)公眾的視頻,官方已經(jīng)出手!多人因?yàn)E用AI被處理!
據(jù)"網(wǎng)信中國”消息,近期,部分網(wǎng)絡(luò)賬號發(fā)布AI生成合成信息時,不添加AI標(biāo)識,存在利用虛假不實(shí)內(nèi)容欺騙誤導(dǎo)公眾的問題,破壞網(wǎng)絡(luò)生態(tài),造成惡劣影響。網(wǎng)信部門督促網(wǎng)站平臺深入排查整治,依法依約處置賬號13421個,清理違法違規(guī)信息54.3萬余條。現(xiàn)將部分典型案例通報如下:
一、微博賬號“澄馫”、快手賬號“玲子愛狗狗”、嗶哩嗶哩賬號“空空說電影”等,發(fā)布狗在高鐵站救下嬰兒、狗拆炸彈救人、鱷魚傷人等視頻時,未添加AI生成標(biāo)識,借虛構(gòu)感人故事、獵奇事件惡意博取流量。相關(guān)賬號已被依法依約處置。
二、微信賬號“浮萍9419”、微博賬號“乘風(fēng)已歸來”、快手賬號“東東情感”等,以AI換臉、聲音克隆等方式,假冒運(yùn)動員、演員、主持人、企業(yè)家等公眾人物,發(fā)布不實(shí)言論,借此吸粉引流,或未經(jīng)授權(quán),售賣AI生成的公眾人物“送祝福”“拜年”等視頻,從中不當(dāng)牟利。相關(guān)賬號已被依法依約處置。
三、抖音賬號“巷子里的魚”“禾粟”、快手賬號“朵姐正能量”“小豬豬”等,發(fā)布AI生成的虛假火災(zāi)現(xiàn)場圖片、視頻,惡意編造、炒作火災(zāi)事故,混淆視聽,擾亂公共秩序。相關(guān)賬號已被依法依約處置。
四、嗶哩嗶哩賬號“真難我知道”、抖音賬號“小奧特曼大智慧”、百度賬號“清崽影視”等,借AI魔改未成年人喜愛的動畫角色,制作刀切小馬寶莉頭部、奧特曼懷孕等視頻,傳播低俗驚悚、血腥暴力內(nèi)容,宣揚(yáng)不良價值觀,侵?jǐn)_未成年人身心健康。相關(guān)賬號已被依法依約處置。
五、小紅書賬號“浪淘達(dá)人”“南坤的店”等,發(fā)布“豆包圖片去水印神器”等內(nèi)容,分享去除AI標(biāo)識教程、軟件,淘寶、閑魚、拼多多店鋪“浙江智意AI”“鼎建祥旗艦店”等,售賣去AI標(biāo)識教程、軟件及服務(wù)。相關(guān)賬號已被依法依約處置,違規(guī)商品已下架。
下一步,網(wǎng)信部門將對無AI標(biāo)識的虛假不實(shí)信息保持高壓嚴(yán)管態(tài)勢,發(fā)現(xiàn)即處置,嚴(yán)厲打擊違規(guī)行為。同時,也呼吁廣大網(wǎng)絡(luò)內(nèi)容創(chuàng)作者按照相關(guān)規(guī)定主動添加AI標(biāo)識,避免誤導(dǎo)公眾,共同營造風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境。
![]()
上海:即日起多部門聯(lián)合開展,“整治AI涉企虛假不實(shí)信息”專項(xiàng)行動
為切實(shí)維護(hù)企業(yè)網(wǎng)絡(luò)合法權(quán)益,嚴(yán)打AI涉企謠言,上海市委網(wǎng)信辦會同市公安局網(wǎng)安總隊(duì),即日起集中開展,“整治AI涉企虛假不實(shí)信息”專項(xiàng)行動。
本次專項(xiàng)行動重點(diǎn)聚焦利用AI技術(shù)生成傳播涉企虛假不實(shí)信息,誤導(dǎo)公眾認(rèn)知、影響企業(yè)形象聲譽(yù)、抹黑攻擊競爭對手等問題,由市委網(wǎng)信辦、市公安局網(wǎng)安總隊(duì)聯(lián)合推進(jìn),將加強(qiáng)典型案例打擊處置,斬斷利用AI技術(shù)不當(dāng)牟利的利益鏈條,力爭達(dá)到“標(biāo)本兼治、打防結(jié)合、凈化生態(tài)”的整治效果。
為建立健全長效機(jī)制,市委網(wǎng)信辦將持續(xù)督促屬地AI應(yīng)用程序和傳播平臺切實(shí)履行主體責(zé)任,完善技術(shù)識別和人工復(fù)核機(jī)制,暢通用戶投訴舉報渠道,對利用AI生成“同質(zhì)化”不實(shí)信息、違規(guī)“養(yǎng)號”等行為強(qiáng)化審核處置;對AI批量制作、低質(zhì)搬運(yùn)、無來源虛構(gòu)等“數(shù)字泔水”垃圾內(nèi)容探索有效治理措施。
市委網(wǎng)信辦相關(guān)負(fù)責(zé)人表示,AI技術(shù)在賦能經(jīng)濟(jì)社會發(fā)展的同時,也面臨技術(shù)濫用、虛假信息傳播加劇等問題。當(dāng)前,整治AI涉企謠言問題對營造公平有序的營商環(huán)境具有重要意義。市委網(wǎng)信辦將會同相關(guān)部門對專項(xiàng)整治期間屢教不改、頂風(fēng)違規(guī)、情節(jié)嚴(yán)重的網(wǎng)站平臺和賬號,依法依規(guī)從嚴(yán)查處,切實(shí)規(guī)范涉企網(wǎng)絡(luò)信息傳播秩序。
歡迎大家掃碼進(jìn)群
更多好物分享

■說明:本文由家住大興編輯整理發(fā)布,轉(zhuǎn)載請注明
部分圖片來源于網(wǎng)絡(luò),版權(quán)歸原作者所有,若侵權(quán),請聯(lián)系刪除
■部分信息來源:北京BRTV北京時間微信公眾號
■本號法律顧問:北京恒略律師事務(wù)所,咨詢微信:jwbei2
關(guān)注家住大興!
看大興大事小情,搜周邊吃喝玩樂!
商務(wù)微信:jiasupao2014
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.