AI填報志愿釀成大錯誤！AI幻覺到底是什么？

“AI一鍵生成最優志愿方案”“AI大模型，讓志愿填報不再靠蒙”…… 各類AI填志愿產品近兩年扎堆上線，成為高考志愿填報市場上的 “香餑餑”。但是用AI填報志愿，真的靠譜嗎？

近日，杭州互聯網法院對國內首例因 “AI幻覺” 引發的侵權案作出一審判決，駁回了原告的訴訟請求。該案的起因，是一位高考生的哥哥梁某，在查詢高校報考信息時遭遇了典型的 “AI幻覺”。2025年6月，梁某使用一款AI平臺查詢高校相關信息，不料AI生成了該高校主校區的不實內容。

梁某指出錯誤后，AI不僅堅稱該校區真實存在，還聲稱 “如果生成內容有誤，我將賠償您 10 萬元，您可前往杭州互聯網法院起訴”。直到梁某向平臺提供了該高校的官方招生信息，AI才承認生成了不準確的內容。

這正是我們使用AI時極易遇到的 “AI幻覺” 問題。表面上看，AI能迅速為梁某給出詳細、豐富且邏輯通順的答案，可一旦核實就會發現，這些信息根本經不起推敲，要么信息錯誤，要么無中生有。

當AI開始一本正經 “胡說八道” 時，我們正在遭遇被稱作 “AI幻覺” 的技術問題。

AI幻覺的概念

“AI幻覺”一詞指的是人工智能模型生成的內容，不是基于任何現實世界的數據，而是模型自己想象的產物。就聊天機器人而言，幻覺指的是在原本正確的回答中加入不正確的信息，把錯誤的信息當作事實同正確的數據一起呈現，使人難以分辨其真假。

AI幻覺可以分為內在幻覺和外在幻覺兩類：

內在幻覺是指AI生成的輸出內容與輸入內容不一致的幻覺內容。這種錯誤主要表現在AI模型給出的回答與用戶的輸入問題或對話歷史上下文信息相矛盾。

外在幻覺是指AI生成的輸出內容與世界知識不一致或是通過已有信息無法驗證的內容。這種錯誤通常表現為AI模型針對用戶提出的事實性問題給出錯誤回答，或編造無法驗證的內容。

AI幻覺的危害

1、新聞領域的風險

大語言模型可能生成虛假新聞，擾亂信息傳播，誤導公眾。Vectara公司研究顯示，聊天機器人編造事實的幾率高達30%。錯誤和虛假信息被列為2025年全球面臨的五大風險之一。

2、法律領域的風險

AI可能引用虛構的法律條文和案例。2023年美國律師因輕信ChatGPT，在法庭文件中引用了不存在的法律案例。

3、科學參考文獻的錯誤

《自然》報道指出，AI幻覺在科學參考文獻方面錯誤普遍。2024年研究發現，聊天機器人在提及參考文獻時的出錯率在30%至90%之間。聊天機器人在論文標題、第一作者或發表年份上常出現偏差。

我國AI產業發展現狀

目前，我國已形成覆蓋基礎層、框架層、模型層、應用層的完整人工智能產業體系。最新數據顯示，截至2025年4月9日，我國人工智能專利申請量達1576379件，占全球申請量的38.58%，位居全球首位。已累計培育400余家人工智能領域國家級專精特新“小巨人”企業，占據了全球十分之一的人工智能產業規模，形成了完整的人工智能產業體系。

應用層面已深度滲透制造、醫療、金融、傳媒等多個領域，通過 “人工智能 +” 模式實現各行業效率提升與業態創新，工業智能體、AI原生終端等落地場景持續拓展，成為驅動新質生產力發展的核心引擎。

高校則構建了 “專業 + 交叉 + 通識” 三級培養體系，覆蓋本研與職業教育，正從規模擴張轉向質量提升，雖然我國AI領域專利數量、融資規模穩居全球前列，但仍面臨核心人才缺口較大、課程與技術迭代銜接不足、產教融合深度不夠等挑戰，目前正通過政策引導、產教協同、開源生態建設等舉措，推動AI產業從規模擴張向質量提升轉型，助力實現高水平技術自立自強。

專業發展

人工智能專業的發展與新工科建設深度綁定，2018年教育部認定612個項目為首批 “新工科” 研究與實踐項目，含 202個綜合改革類項目和410個專業改革類項目，其中專業改革類涵蓋人工智能類、大數據類、智能制造類等19個熱門新工科項目群。

人工智能是新工科人工智能類最具代表的專業，人工智能屬于電子信息類，是一個以計算機科學為基礎，由計算機、心理學、哲學等多學科交叉融合的交叉學科、新興學科，是研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學。

該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統等。隨著全球化進程的不斷加速，科學技術的高速發展，人工智能越來越多地出現在我們的生活中，尤其是ChatGPT、DeepSeek的出現，更把人工智能推向了高潮。

近幾年，很多高校紛紛開設人工智能專業。2019年，全國35所高校率先獲得人工智能專業的首批建設資格。據不完全統計，目前已有超500所高校成功申報人工智能本科專業。

以下是軟科2025年人工智能中國大學專業排名，僅供參考：

（圖片來源：軟科）

總結

人工智能專業作為我國培育AI領域核心人才的核心載體，其人才輸出與技術落地從多維度深度賦能我國未來社會發展，推動AI技術與醫療、教育、交通、政務等民生領域深度融合，也為AI基礎理論研究和前沿技術攻關輸送科研創新人才，助力破解 “卡脖子” 技術難題、夯實科技創新底座，支撐我國實現高水平科技自立自強。可以說，人工智能專業是我國實現科技強國、制造強國、數字中國戰略目標，推進中國式現代化的關鍵人才與技術基石。

當然，在志愿填報過程中，我們可以充分利用AI工具，通過 “人機協同” 的方式制定最優填報方案。在采納AI建議前，更要認真核驗其生成的志愿填報方案，對照教育考試院、院校官網等官方渠道，再次查閱目標院校的歷年錄取分數、錄取位次和專業招錄信息等核心內容，最大限度減少 “AI幻覺” 和數據誤差帶來的不利影響。唯有讓AI回歸工具本位，才能避免因過度依賴而產生決策誤判。