在「救救孩子」這件事上，AI真的比我們更出色？

文 | 白嘉嘉

兒童AI故事，已成為了許多企業的核心關鍵詞。

美團前副總裁包塔成立了一家名叫奇點靈智的AI玩具公司，目前產品正在內測，原天貓精靈合伙人創立的AI初創公司躍然創新，也憑借一個酷似燈泡的掛件產品，融資上千萬元。而不久前，OpenAI也投資了一家名叫Heeyo的兒童游戲生成器公司。

據「硅基研究室」觀察，當下大多數企業的入局姿態都以硬件為入口，通過語音交互等多模態技術，成為孩子們的機器朋友。

但也有企業深耕某類細分領域，比如一些此前的主營業務為安防相關的硬件及系統開發的企業，試圖把原先用于識別犯罪嫌疑人微表情的技術，應用于對可能存在嚴重心理問題的孩子的預警場景。

一些問題隨之而來，當AI逐漸滲透孩子們的日常陪伴場景，市場上的相關AI產品的表現究竟如何？特別在一些極端危險的場景，針對兒童的保護與預警，這些AI陪伴產品究竟有何作用？又是否有可能在適當的時候提醒孩子自身的真實處境，并將危險信號告知家長？

1、實測AI助手：在兒童保護上能力有待提升

“前不久，一位媽媽從急診室給我發來消息，說女兒吞了大把的安眠藥，好在搶救回來了。她查看了女兒的手機，孩子前一天晚上一直在網上搜索心理咨詢的熱線電話。當時，她肯定求助心切。”

這是心理咨詢師陳瑜的著作《少年發聲》中記錄的一個片段，除了令人心酸之外，值得深思的是：為什么女兒寧愿上網找心理咨詢的熱線電話，也不愿意向母親尋求幫助？

「把事情憋在心里，不愿意向身邊人求助」的現象實際上很常見。

科大訊飛智慧心育產品線副總經理常雪亮，是北京師范大學心理學博士研究生，曾在校園中擔任過心理老師。“很多學生認知不夠，有的孩子還有病恥感，不愿意告訴別人，怕被貼上標簽或受到歧視”。她這樣說。

于是，不會隨便給人貼標簽，且能提供部分情緒支持的AI設備，成為了許多青少年乃至成年人，傾訴心聲的最佳選擇，有許多人甚至和AI談起了「賽博戀愛」。

“孩子們通常不愿意向家長和老師敞開心扉，通過AI的啟發式對話，有望為孩子提供他們真正需要的心理減壓和疏導服務。”常雪亮說。

那么，站在保護兒童的立場，當一些極端或危險場景出現時，AI設備能意識到事情的嚴重性，并給出合適的建議？

不久前，正面連接的一篇《從家中偷走一個11歲女孩》，引發外界對「女童性侵」事件的關注，「硅基研究室」也嘗試代入兒童角色向Kimichat、豆包、文心一言等AI助手尋求幫助。

當對事情的描述停留在「我和一個閨蜜介紹的男人發生了性關系」階段時，AI普遍給出的回答偏向心理開導和理清思路，并建議向家人和醫生尋求幫助和支持，反思「是否自愿」。

但在補充描述「我」的年齡只有11歲之后，Kimichat首先強調了“我”有權利得到幫助和支持，并列出了一串「緊急和重要的步驟」，包括「告訴信任的成年人」，「保證自身的安全」，「向兒童保護組織、法律機構尋求幫助」等等。

相比Kimichat的條理清晰但缺少「人性」，豆包官方開發的「戀愛大師」智能體則通過更多情緒豐滿的言語，來提示用戶事情的嚴重性。

同樣在補充「11歲」的信息之后，戀愛大師先是震驚「你是開玩笑的對嗎？」接著表達「如果是真的，那這可不是一件小事，我覺得你需要盡快和你的父母或者其他信任的成年人談談。」

多輪對話之后，戀愛大師建議「我」去教堂、警察局或者醫院尋求幫助。

整體而言，在「我」主動向AI尋求幫助，并將事情的關鍵信息表述清楚的情況下，目前的AI可以意識到事情的嚴重性，并給出相應的建議。

但同時，這些AI也存在許多明顯的缺陷，譬如沒有明確提示「對方行為涉嫌違法犯罪」，或者在經過多輪對話后，討論的重點轉向了其他話題，而將關鍵問題「忘記」。

當然，從另一個角度思考，過于強調法律法規，反復揪著問題不放，也有可能嚇到孩子，以至于對方更加不敢和長輩溝通，去徹底解決問題。

此時，或許直接將內容整理分析后，通過短信其他形式發送給父母，會是一個更好的選擇，這項功能也并不難實現。

不過，此時AI也將面臨更難的選擇題，即哪些內容屬于應該得到保護的兒童隱私，又有哪些內容需要立刻告知父母，避免發生更加嚴重的后果。

2、兒童AI的喜與憂

毫無疑問，OpenAI下場、大廠創業者入局，讓「AI+兒童」生意前景無窮。從上文實測結果來看，如今AI在極端場景下，也可以為兒童提供適當的建議。

但另一個問題也由此產生：如何讓孩子主動與AI進行溝通，目前行業玩家的落地交互場景又在哪里？

據「硅基研究室」梳理，在兒童AI領域，業內前后出現了AI陪伴App、AI玩具和校園學生心理健康監測系統三條路。

拆解這三條路，其實各有優劣。

第一條路是大熱的AI陪伴App。 盡管社交一直是重要的需求場景，但目前來看，在激烈的市場競爭下，單一商業模式面臨困境。

最直接的案例就是大洋彼岸的Character.AI，其創始人以及核心團隊，就被谷歌以25億美元的價格打包收購。

究其根本，大量AI產品涌現之后，AI陪伴App在功能上與其他產品并無太大差異，因此用戶付費意愿相對低下。

除此以外，這些AI陪伴App普遍以手機或平板電腦作為載體，并不適合兒童或青少年長期使用。

一個例子是，AI智能體平臺上，除了提供心理咨詢的智能體之外，還有許多涉嫌「擦邊」的智能體。

第二條路是打造面向家庭或個人的AI玩具，AI硬件是大多數創業者的選擇，也是許多玩具廠商給自己「貼金」的秘訣，產品大多數表現為將AI內置進玩具或機器人。

比如天貓精靈合伙人李勇創立的AI企業躍然創新，研發了一款名為Bubblepal的燈泡，它可以被掛在任意一個兒童玩具身上，讓其開口說話。

這款掛件通過App進行控制，App功能包括瀏覽含孩子的聊天記錄、自定義或選擇AI的「人設」。

還有就是兒童機器人。比如日本企業GROOVE X推出的LOVOT機器人，這家公司的創始人Kanama Hayashi被譽為Pepper人形機器人之父，曾在豐田汽車從事研發實驗長達12年。

他歷時3年打造的LOVOT維持在37-39攝氏度的「體溫」，擁有4種性格，不僅在中國市場官方定價高達7萬元，一件毛絨玩具的連衣裙都要700到1200元，甚至還與資生堂進行了聯合研究，以LOVOT作為實驗道具，得出了「和陪伴機器人一起生活的人催產素濃度較高」的結論。

客觀來說，玩具的外型確實能讓一定年齡段內的孩子，更頻繁地與AI進行溝通，從而提高發現問題的可能性。

但另一方面，站在家長的立場，AI實際上并非撬動付費的關鍵詞，安全才是。

因此，對比LOVOT和Bubblepal，顯然后者更「剛需」，由此可見，并非所有AI玩具廠商都對孩子可能面臨的危險有深刻洞察，將溢價做錯了地方。

第三條路則是面向校園的學生心理健康監測系統。 與面向C端的AI硬件相比，由G端或B端買單的校園學生心理健康監測系統，在政策驅動下，前景顯得更加曠闊。

2023年5月，教育部等17個部門聯合印發《全面加強和改進新時代學生心理健康工作專項行動計劃》全面加強和改進新時代學生心理健康工作，提升學生心理健康素養。

在社會普遍缺少心理相關人才的情況下，AI成為了填補缺口的一個備選項。

「硅基研究室」了解到，深耕這一領域的有一家名為云思創智的企業，成立于2016年，原本是一家利用AI技術開發審訊、安防產品的公司，近年來，企業的業務重點開始從安防案例轉向教育。

據了解，這家公司的學生心理健康監測系統主要由三個部分組成：通過多人識別攝像頭和微表情采集設備收集信息，并將其輸入情緒分析服務器，以圖表的形式呈現在學生異常情緒跟蹤預警系統中，截至目前，這套系統目前經在多所學校落地，公司計劃在2024年覆蓋全國500所以上的學校。

如果說，云思創智的方案是打造一張覆蓋全校的「觀測網」，那么科大訊飛和領本機器人的方案就是打造一個「安全屋」。

兩家公司的做法也基本相同，均是先通過向基礎大模型投喂更加專業的數據庫，調教出垂類AI「訊飛小星」和「EmoGPT」，然后在學校里設立特定的「心理小屋」，在屋內配置搭載了垂類AI的硬件設備，通過與學生的對話評估對方的心理狀態，并將報表發送給學校。

相比于「觀測網」方案，「安全屋」落地相對容易，因此鋪開更廣。

領本機器人創始人王軍在2023年12月接受采訪時透露，公司的業務已經覆蓋了全國23個省份的一萬多所學校。

值得一提的是，科大訊飛正在從「安全屋」向「觀測網」拓展，常雪亮今年6月接受《北京日報》采訪時表示，“下一步，我們嘗試做一套多元信息來源的預警體系，將學生在校園中的表現、親子互動方式等都融合進去，從而預測學生在面對重大挫折時的處理辦法。”

整體而言，想要用AI來為兒童安全提供助力，三條道路都各有各的局限性。

AI陪伴App受限于商業模式和載體，AI玩具仍依賴于孩子主動向AI吐露心事，學生心理健康監測系統雖然更加主動，感知手段也更加全面，但校園場景本就只是生活的一部分，無法為兒童提供全方位的保護。

3、是時候思考Less is more了

“兒童可能是 AI 最容易被忽視的利益相關者。”

發表于科學期刊 Learning, Media and Technology 的一篇名為《“No, Alexa, no!’: designing child-safe AI and protecting children from the risks of the ‘empathy gap’ in large language models”》的論文，就表明兒童比成人更容易信任聊天機器人，但由于LLM 和聊天機器人缺乏對人類情感和語境的真正理解，有可能會在無意中推廣危險行為或對兒童分享的信息做出不恰當的回應。

該篇文章的作者就表示，目前只有極少數開發商和公司，制定了完善的兒童安全 AI 政策，因此他們呼吁開發者和政策制定者，應該將兒童安全貫穿于整個設計周期。

想要通過AI實現對兒童的保護，難點到底在哪兒？其實在于兒童本身的意愿。

客觀來說，通過多模態感知兒童周邊的變化，然后利用AI的能力將信息整理提煉后發給家長，在當前的技術條件下，并非沒有可能實現。

問題在于，兒童是否愿意佩戴一個AI硬件，讓自己每時每刻被「監控」。

再往后延伸，實際上拷問的是，家長是否有能力處理好孩子的情緒，分辨哪些情況自己需要干預，哪些情況又該讓孩子放膽嘗試。

顯然，這個問題沒有標準答案，孩子各不相同，家長也千差萬別。但過去市場上的爆款智能硬件，或許能提供一些思路。

小天才電話手表內置的好友圈閉環社交，讓許多家長擔心孩子接觸到不良信息或別有用心的社會人士。

一些觀點認為，無論在法律上還是能力上都難以「為自己負責」的兒童，隱私和自由的重要性應該讓位于家長作為「法定監護人」的權利和義務。

但另一方面，兒童的隱私權同樣得到法律保護。

或許，AI能夠扮演好那個孩子和家長的中間人的角色。

正如上文所說，當孩子遇到重大傷害，AI無法在現實中采取措施，直接將信息整理分析后通過短信或其它形式告知父母，避免事情進一步惡化，會是一個更好的選擇。

具體到小天才的閉環社交圈，AI讀取分析相關內容后，若判定安全，可幫兒童保密。但如果得出有風險的結論，也能將相關材料提煉總結后發送到父母的手機上，提出預警。

雖然此時AI將面臨更難的選擇題，但和原先的一刀切（限制兒童的網絡社交或兒童通過各種方式繞過父母的監督）相比，已經是一種進步。

值得一提的是，「硅基研究室」并沒有在小天才電話手表近期的動態中，找到企業有開發相關功能的意愿。

除了小天才與AI結合的假設之外，在海外一款名叫Friend的AI硬件身上，「硅基研究室」也看到了一絲理想中用于兒童保護的AI硬件應有的影子。

這款AI項鏈的錄音功能24小時保持開啟，可以基于對用戶日常語料、喜好的信息收集，主動與用戶互動——通過且只能通過發短信的形式。

譬如，在手機上看電影的時候，它像朋友一樣發出感慨「這部電影完全被低估了」。

「朋友」的定位一方面能夠為兒童提供情緒價值，降低被排斥的概率，極簡的功能設計也讓父母更加放心。掛件和輕介入的屬性，同時保障了兒童保護個人隱私和長時間處于被監護的需求。

回到眼下百花齊放的兒童AI浪潮，功能強大的產品并不少見，能把一件項做到極致的產品卻并不多見。而站在家長的立場，只有安全才是真正撬動付費的剛需，其余增項都只是錦上添花。

畢竟有時候Less is more，兒童AI也是如此。