央視曝光AI“造黃”軟件，一公司回應(yīng)……

近日，央視曝光“AI涉黃”產(chǎn)業(yè)鏈，報道提到，在一款名為哩布哩布AI的AI應(yīng)用里，記者輸入在網(wǎng)上購買的提示詞后，僅僅幾分鐘，這個AI平臺就生成了一個半裸身體的女性跳舞視頻。

在整個生成過程中，沒有觸發(fā)平臺任何限制機制。

4月14日，哩布哩布AI發(fā)布 關(guān)于加強內(nèi)容安全管理的說明，經(jīng)排查平臺存在生成不符合規(guī)范內(nèi)容的情況，已在第一時間完成技術(shù)修復(fù)，并對風(fēng)險路徑進行全面封堵。

天眼查App顯示，哩布哩布AI關(guān)聯(lián)公司北京奇點星宇科技有限公司成立于2023年5月。公司融資歷程顯示，從2023年至2025年，已獲得源碼資本、高榕創(chuàng)投、金沙江創(chuàng)投、明勢創(chuàng)投、巨人網(wǎng)絡(luò)等多家基金的投資。

官網(wǎng)稱，截至2024年5月，哩布哩布AI已經(jīng)積累了近1000萬專業(yè)的Al圖像創(chuàng)作者，用戶量位居國內(nèi)第一，在國內(nèi)“Al文生圖賽道融資額TOP1”，多家頂級風(fēng)險投資機構(gòu)聯(lián)合參與，總金額達數(shù)億人民幣。

記者在幾大應(yīng)用市場檢索發(fā)現(xiàn)，該應(yīng)用目前仍可以正常下載。

律師：AI服務(wù)提供者

不能以“技術(shù)中立”逃避管理義務(wù)

今年年初，“AI服務(wù)涉黃第一案”曾一度引發(fā)社會關(guān)注。

有律師表示，AI服務(wù)提供者對模型輸出內(nèi)容具有實質(zhì)性控制能力時，不能以“技術(shù)中立”逃避內(nèi)容管理義務(wù)，提示詞設(shè)計與安全機制建設(shè)將成為合規(guī)關(guān)鍵。本案明確AI生成淫穢內(nèi)容的制作責(zé)任歸屬，為同類案件提供裁判參考，強化“技術(shù)越界必擔責(zé)”的司法導(dǎo)向。生成式AI應(yīng)用必須嵌入內(nèi)容審核、倫理對齊機制，避免因提示詞漏洞或模型失控觸碰法律紅線。

2025年4月，國家網(wǎng)信辦開展的“清朗·整治AI技術(shù)濫用”專項行動明確指出，將重點整治利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，但未履行大模型備案或登記程序的違規(guī)AI產(chǎn)品。

2026年4月10日，《人工智能擬人化互動服務(wù)管理暫行辦法》正式公布，《辦法》中進一步明確了安全評估和算法備案的相關(guān)要求，同時還對未成年人和老年人使用擬人化互動服務(wù)做出了相關(guān)規(guī)定。

來源：界面新聞、央視財經(jīng)、冀時、中青評論等。