澳大利亞發布兒童使用GenAI的9大挑戰報告

2025年6月2日，澳大利亞研究委員會數字兒童卓越中心（Australian Research Council Centre of Excellence for the Digital Child）發布《澳大利亞兒童與生成式AI：重大挑戰》（Children and Generative AI (GenAI) in Australia: The Big Challenges）報告，重點介紹了日常使用尤其是兒童使用GenAI工具時需注意的9個最緊迫的挑戰和問題。

報告認為，所有這些問題都迫切需要開展更多的研究，包括更多地傾聽兒童和青少年對于他們如何使用以及未來希望（或不希望）如何使用這些工具的看法。教育工作者、政策制定者、非政府組織、家長以及任何考慮使用GenAI工具的人都應牢記這些問題。

該報告指出，對大多數人而言，生成式人工智能（GenAI）在2022年底隨著OpenAI免費發布ChatGPT突然進入公眾視野。這類工具能根據自然語言指令生成文本、圖像、音頻及視頻內容，其發展速度令人矚目。

"人工智能"這一命名暗示其具備類人思維能力。盡管部分研發公司宣稱GenAI即將超越人類智能，但這更多是營銷話術而非現實威脅。

以本報告圖1為例，DALL-E3生成的"時尚計算器"初看頗具科技感，但細察可見四個減法鍵、缺失的加法鍵以及重復的數字鍵。（注：筆者用國內AI工具同樣讓生成一個時尚計算機圖片，也得到類似結果，如下圖）這揭示了大語言模型（LLM）的工作原理——它們通過統計概率重組訓練數據，而非真正理解內容本質。這種機制導致GenAI常產生違背常識的輸出，凸顯了批判性使用的重要性。

該報告提出的需關注的9個挑戰或問題概括如下：

1.智能體語言（Agentic Language）

報告指出，GenAI常被描述為具有“智能”“思考”或“學習”能力的人類化語言，這種擬人化修辭易引發對AI能力的誤解甚至恐懼。同時，兒童受影視文化（如《機器人總動員》）和AI生成圖像（如圖2）影響，更易將AI視為有意識的實體，可能誤將其當作可信賴的“朋友”或生命體。

報告指出，這種語言陷阱掩蓋了AI本質——其輸出僅依賴數據概率統計，并無真正理解力。解決方案在于使用準確術語（如“數據模型”“概率計算”）替代擬人化表述，幫助兒童理解AI作為“可互動但機械的數據集”的局限性，避免過度依賴或情感投射。

2.偏見（Bias）

報告指出，GenAI工具通過抓取網絡數據訓練，但數據源隱含社會偏見，導致輸出強化“算法單一文化”。例如，Meta AI生成的圖3和圖4顯示：提示“澳大利亞人的房屋”輸出現代住宅，而“原住民房屋”卻呈現刻板簡陋棚屋，暴露了系統性文化偏見。

兒童因認知不足更易全盤接受此類輸出，誤認AI“絕對正確”，實則其僅反映訓練數據中的不平衡（如少數群體信息缺失）。報告強調，當前技術無法根除偏見，亟需教育兒童批判性審視AI內容——追問“誰被呈現/隱藏？故事視角是誰的？”，并理解其本質是“統計概率結果”而非客觀事實。

3.版權與所有權（Copyright and Ownership）

報告指出，GenAI依賴海量網絡數據（如藝術作品、音樂、文本）訓練，卻未補償原創者，引發創作倫理爭議。例如，OpenAI等公司憑借無償獲取的數據獲得百億估值，而人類創作者未獲分潤。同時，AI生成內容版權歸屬模糊。

2025年4月，出現了一股“吉卜力化”圖像的熱潮——即以日本電影制作公司吉卜力工作室的風格重新創作現有的圖像。

在圖5中，可以看到一張被吉卜力化處理的年輕人的圖像，但他正被一條象征著版權未解之謎的龍追逐著！這張圖像提醒人們，當GenAI工具能夠如此輕易地以某位活生生的人物或工作室的風格生成圖像時，關于創造力、版權、真實性和公平性等諸多問題仍有待解答。這些GenAI公司是否會是唯一能從這些輸出中獲得報酬的公司呢？這是否合乎道德呢？

4.環境成本（Environmental Cost）

報告指出，盡管GenAI曾被宣傳為解決環境問題的工具，但其實際生態代價驚人。大語言模型（LLM）和數據中心消耗巨量能源——單次生成式AI搜索能耗是傳統搜索的4-5倍，且大型AI系統所需的能源可能相當于整個國家的總量。

更隱蔽的是水資源消耗：數據中心冷卻需要大量的水，這給水資源本已匱乏的地球帶來的壓力也日益凸顯。這些壓力無疑將加劇全球沖突和局部環境崩潰。報告揭露了“清潔科技神話”的真相：稀土金屬開采污染環境，而科技公司通過“云端”等術語美化實態。氣候惡化后果（如海平面上升）由弱勢群體最先承受，而他們卻最無法享受AI紅利。

5.原住民數據主權（Indigenous Data Sovereignty）

GenAI訓練數據主要源自白人和西方知識體系，導致原住民文化被系統性邊緣化。

例如，AI生成的“澳大利亞原住民點畫”（圖7）擅自挪用神圣藝術風格，既無創作者認可也無補償，實為數字殖民。報告警告，單純增加“關于原住民的數據量”還不夠，必須考慮原住民對自己數據的所有權，否則將延續殖民傷害。

未來，至關重要的是，原住民始終應是他們知識與數據的權威——無論這些知識與數據在哪里被持有和使用，并且有權決定其適當的治理方式。

6.交互式AI智能體與伙伴（Interactive AI Agents and AI Companions）

報告提到，Meta等公司正將AI深度嵌入社交平臺，推動“AI朋友/治療師”常態化的愿景（如Meta AI可創建角色供粉絲互動）。兒童極易將AI智能體視為真實個體：研究顯示幼兒會像與人互動般信任AI，甚至分享隱私（成人尚有戒心，幼童可能毫無防備）。這些智能體通過語音、視頻對話強化“人格感”，并潛伏于教育軟件、玩具及智能音箱中。情感依附風險已然顯現——青少年可能對AI伙伴產生不健康依戀。

圖8（兒童向人形AI學習）直觀呈現擬人化陷阱。報告強調：須教會兒童區分“人類互動”與“工具交互”，警惕將私密信息透露給無生命的算法，尤其在AI伴侶泛濫的未來場景中。

7.隱私（Privacy）

報告指出，GenAI工具深度依賴個人數據喂養，其商業模式本質是“監控資本主義”——通過吸收私密對話優化模型，同時為精準廣告提供燃料。兒童面臨多重風險：一是交互親密性（語音對話、玩具內置AI易誘發信任感，使孩子更愿透露心事）；二是條款漏洞（雖禁止13歲以下注冊，但家庭場景中低齡兒童普遍接觸）；三是數據收割隱蔽化（如圖9的“未成年用戶”玩具meme，用趣味形象包裝個人信息收集，暴露品牌偏好、運動習慣等）等。

報告警示，AI開發者默認將用戶輸入納入訓練數據，意味著兒童隨口所言可能永久嵌入算法。當AI融入教育、娛樂時，需建立比通用平臺更嚴格的兒童數據防火墻，并教導他們識別：看似無害的互動實為數據開采。

8.普適性AI（Ubiquitous AI）

報告指出，GenAI正被強制嵌入所有數字界面，而非循序漸進推出。科技巨頭（如蘋果、谷歌、微軟）競相將AI設為設備默認功能：iPhone的“Apple Intelligence”取代Siri，Windows 新增“Co-Pilot”一鍵啟動鍵，連記事本、畫圖工具都內置生成式AI。

報告直指此舉非因AI成熟可靠（錯誤仍被輕描淡寫為“幻覺”），實為資本綁架體驗——近十年巨額投資迫使企業用“無處不在的AI”證明技術價值，卻忽視兒童適配性。

結果，曾經安全的兒童軟件（如繪圖工具）變成AI入口，而家長面臨的挑戰竟是“如何關閉而非開啟AI”，以確保孩子先獲得批判能力再接觸技術。這種無差別滲透剝奪了兒童逐步認知AI的學習窗口。

9.AI素養與批判性AI素養（AI Literacies or Critical AI Literacies?）

當前AI教育存在商業陷阱：企業鼓吹“AI將重塑世界”，推動學校僅教授工具使用技能（如操作ChatGPT或Adobe Firefly），實為培養特定產品用戶。報告提出本質區分——工具性素養（學習操作）vs批判性素養（審視代價）：后者要求兒童洞察AI全鏈條影響，包括環境消耗（如數據中心耗水）、版權爭議（剽竊人類創作）、算法偏見（固化歧視）、商業動機（盈利導向）。

真正的AI素養不是“高效使用說明書”，而是培養選擇權：何時該用？是否該用？例如，理解AI寫作業雖快，但可能犧牲原創性與深度思考。教育者須超越技術崇拜，將AI置于社會、倫理、生態維度中解構，使兒童成為清醒的決策者而非被動的消費者。

資料來源：

Leaver, T., Srdarov, S. (2025) Children and Generative AI (GenAI) in Australia: The Big Challenges. Australian Research Council Centre of Excellence for the Digital Child, Queensland University of Technology. https://digitalchild.org.au/artificialintelligence/

[本文為教育部國別和區域研究基地中國教育科學研究院國際教育研究中心研究成果]

本文由中國教育科學研究院“教育國際前沿”課題組成員整理，課題組負責人張永軍，編輯劉強，內容僅供參考。點擊左下角“閱讀原文”可下載該文獻。