女演員吐槽“不知道該信哪個(gè)了”，全網(wǎng)熱議

“說的都不一樣”“我真的不知道該信哪個(gè)了。”演員劉美含的一句吐槽，讓AI答案的準(zhǔn)確性問題再次引發(fā)全網(wǎng)熱議。

近日，劉美含在社交平臺發(fā)布了一則視頻，表示自己在為新劇配音時(shí)，因?qū)Α拌T幣坊”中“坊”字讀音存疑，接連查詢5款主流AI工具，卻得到截然不同的答案，甚至同一AI在不同設(shè)備上的查詢結(jié)果也大相徑庭。

劉美含的這段經(jīng)歷迅速引發(fā)網(wǎng)友共鳴，不少人留言表示自己也遇到過AI答案不一致、答非所問的情況。有網(wǎng)友調(diào)侃“AI也有‘意見不合’的時(shí)候”，也有網(wǎng)友提醒“AI只是輔助，重要問題還是要查權(quán)威資料”。

多位專家提醒，生成式人工智能本質(zhì)上是一種基于概率的語言生成系統(tǒng)，并不具備判斷事實(shí)真?zhèn)蔚哪芰Γ浠卮痣y以保證完全準(zhǔn)確。值得注意的是，在今年政府工作報(bào)告中，“完善人工智能治理”被首次明確提出。隨著人工智能加速融入生產(chǎn)生活，如何在推動(dòng)技術(shù)應(yīng)用的同時(shí)防范潛在風(fēng)險(xiǎn)，也成為社會(huì)各界持續(xù)關(guān)注的重要議題。

“坊”字怎么讀？

5款AI工具答案不一

在其發(fā)布的視頻中，劉美含表示：“我今天去配音，有一句臺詞是‘鑄幣坊’，我說的是‘鑄幣fǎng’。然后我突然覺得有點(diǎn)不是很確定這個(gè)讀音，就說我們查一下怎么讀。”

然而查詢的結(jié)果卻讓她“越查越迷糊”。她先后使用百度AI、DeepSeek、元寶、豆包以及通義千問等工具進(jìn)行搜索，其中百度AI給出的答案是fáng（二聲），DeepSeek和元寶則顯示為fāng（一聲），而她與錄音老師分別用豆包查詢時(shí)，竟然得到了不同的讀音結(jié)果。隨后她又詢問通義千問，得到的依然是fāng（一聲）。最終，還是經(jīng)紀(jì)人通過《新華詞典》APP查詢，才確定了“鑄幣坊”中“坊”字的正確讀音為fáng。

女演員社交平臺視頻截圖

事實(shí)上，從語言規(guī)范角度看，“坊”字的讀音并不存在實(shí)質(zhì)爭議。南京師范大學(xué)文學(xué)院教授化振紅表示，“坊”字自古只有一聲fāng和二聲fáng，無三聲讀法，三聲多為方言影響誤讀。現(xiàn)代漢語中，一聲表示街巷、店鋪、牌坊等；二聲指小手工業(yè)生產(chǎn)場所，如磨坊、染坊。“鑄幣坊”為造幣場所，正確讀音為fáng（二聲）。

為了驗(yàn)證相關(guān)情況，南都大數(shù)據(jù)研究院記者再次使用劉美含視頻中提及的幾款A(yù)I工具搜索“鑄幣坊讀音”。結(jié)果顯示，不同平臺之間仍存在明顯分歧：DeepSeek、元寶給出的讀音依然為fāng（一聲），而豆包與通義千問的回答已顯示為fáng（二聲），百度AI則保持原本的fáng（二聲）答案不變。

AI為何“各說各話”

生成式人工智能的概率邏輯

同一個(gè)字的讀音，為何多款A(yù)I工具卻給出了不同的答案？原因在于生成式人工智能的底層運(yùn)行邏輯。當(dāng)前主流大模型并非基于權(quán)威知識庫逐條檢索標(biāo)準(zhǔn)答案，而是通過對海量文本語料進(jìn)行訓(xùn)練，基于概率預(yù)測生成“最可能”的表達(dá)。它并不具備對事實(shí)真?zhèn)蔚呐袛嗄芰Γ矡o法像人類一樣進(jìn)行來源核實(shí)。

當(dāng)訓(xùn)練語料中存在多種解釋、歷史讀音、網(wǎng)絡(luò)討論甚至錯(cuò)誤示例時(shí)，模型就可能在不同語境下生成不同結(jié)果。此外，不同平臺的訓(xùn)練數(shù)據(jù)來源、模型架構(gòu)、推理策略存在差異，部分模型側(cè)重通用語料，部分則加強(qiáng)檢索能力或知識庫對接，這些技術(shù)路徑的差別都會(huì)影響輸出結(jié)果。再加上模型版本持續(xù)更新，同一平臺在不同時(shí)間給出的回答也可能發(fā)生變化。

事實(shí)上，劉美含遭遇的AI答案分歧，只是“AI幻覺”現(xiàn)象的一個(gè)縮影。所謂AI幻覺，是指生成式人工智能在輸出內(nèi)容時(shí)，看似語法流暢、邏輯連貫，實(shí)則捏造細(xì)節(jié)、生成與事實(shí)相悖答案的現(xiàn)象，也就是大眾口中的“一本正經(jīng)地胡說八道”。由于大模型往往以流暢、完整的語言表達(dá)答案，這類錯(cuò)誤有時(shí)甚至比普通搜索結(jié)果更具有迷惑性。

近年來，圍繞“AI幻覺”的討論持續(xù)升溫。此前，由杭州互聯(lián)網(wǎng)法院審理的國內(nèi)首例因生成式人工智能“幻覺”引發(fā)的侵權(quán)糾紛案件，就曾引發(fā)廣泛關(guān)注。在該案中，AI在回答用戶問題時(shí)生成了錯(cuò)誤信息，并在被指出后仍堅(jiān)持原說法，甚至生成“若信息有誤可起訴并賠償”的內(nèi)容。法院在判決中指出，大語言模型本質(zhì)上是一種基于概率的語言生成系統(tǒng)，并不具備判斷事實(shí)真?zhèn)蔚哪芰Γ虼穗y以實(shí)現(xiàn)“零錯(cuò)誤”。這一技術(shù)現(xiàn)實(shí)意味著，AI生成錯(cuò)誤信息并非個(gè)別現(xiàn)象。

然而在現(xiàn)實(shí)使用中，不少用戶仍容易被AI流暢、自信的表達(dá)所影響，將其視為可靠的知識來源。演員劉美含這次用AI查詢讀音的經(jīng)歷，也再次提醒公眾，在享受技術(shù)便利的同時(shí)，需要對AI的能力邊界保持清醒認(rèn)識。

如何與AI幻覺共處

技術(shù)、法治與公眾理性缺一不可

隨著生成式人工智能迅速進(jìn)入日常生活，“遇事先問AI”正逐漸成為不少人的習(xí)慣。從學(xué)習(xí)、寫作到查詢知識，大模型正成為一種重要的信息工具。但在當(dāng)前技術(shù)階段，AI“幻覺”難以完全避免，如何在使用便利與信息可靠之間取得平衡，成為人工智能發(fā)展中的重要課題。

清華大學(xué)公共管理學(xué)院院長、科技發(fā)展與治理研究中心主任朱旭峰認(rèn)為，應(yīng)辯證看待AI“幻覺”。在他看來，這類問題并非全新的社會(huì)現(xiàn)象，而是在信息技術(shù)環(huán)境下以新的形式呈現(xiàn)。隨著人工智能技術(shù)不斷迭代，在持續(xù)使用和治理中，其可靠性也會(huì)逐步提升。

與此同時(shí)，治理AI“幻覺”也離不開法治的保障。北京大學(xué)法學(xué)院教授、北京大學(xué)數(shù)字法治研究中心主任王錫鋅表示，可以通過建立生成內(nèi)容標(biāo)識、信息可追溯機(jī)制等方式，降低AI錯(cuò)誤信息被誤用或擴(kuò)散的風(fēng)險(xiǎn)。

事實(shí)上，人工智能治理也已成為國家層面的重要議題。今年政府工作報(bào)告在部署“人工智能+”行動(dòng)的同時(shí)，首次提出要“完善人工智能治理”。《政府工作報(bào)告》起草組成員、國務(wù)院研究室副主任陳昌盛在國新辦吹風(fēng)會(huì)上表示，要加快完善人工智能治理，加強(qiáng)國際對話合作，推動(dòng)人工智能朝著有益、安全、公平的方向發(fā)展。

在十四屆全國人大四次會(huì)議首場“部長通道”上，工業(yè)和信息化部部長李樂成也表示，人工智能發(fā)展要統(tǒng)籌好發(fā)展和安全，堅(jiān)持人工智能為人所用、為人服務(wù)、為人所控。

從公眾使用角度看，專家建議保持理性態(tài)度。蘇州大學(xué)科技傳播研究中心主任王國燕指出，AI生成內(nèi)容往往語言流暢，但未必完全準(zhǔn)確。面對重要信息時(shí)，應(yīng)養(yǎng)成多查證、慢判斷的習(xí)慣，避免對AI產(chǎn)生過度依賴。

來源：南方都市報(bào)

編輯：王雨薇

編審：林剛

監(jiān)制：趙延琦