把AI當(dāng)“老大哥”用？

最近刷到一則視頻，呆住了。

視頻里，一位媽媽宣稱，自己用豆包監(jiān)視兒子寫作業(yè)，可好用了。只需打開(kāi)攝像頭，讓手機(jī)對(duì)著孩子，孩子只要坐姿不對(duì)、頭太低乃至走神，一舉一動(dòng)都逃不過(guò)AI的“眼睛”，AI會(huì)立即做出相應(yīng)的警告或命令。

一開(kāi)始，這么媽媽覺(jué)得豆包的語(yǔ)氣太嚴(yán)厲了，讓其換成溫柔模式。我只能說(shuō)，這溫柔模式，也是綿里藏針，讓人感覺(jué)陰森森、冷颼颼的。

打開(kāi)留言區(qū)，有人看得不亦樂(lè)乎，有人看得膽戰(zhàn)心驚。我屬于后者。

我的第一反應(yīng)就是聯(lián)想到了《1984》里的“老大哥在看著你”。還有比這更具象化的嗎？

這又讓我想起多年前看過(guò)的衡水中學(xué)紀(jì)錄片。其中一個(gè)讓我印象很深的細(xì)節(jié)是，他們上自習(xí)課或午休時(shí)，雖然教室里沒(méi)有老師監(jiān)督，但是講臺(tái)上方有一個(gè)監(jiān)控?cái)z像頭，一旦有交頭接耳、睡覺(jué)的學(xué)生被發(fā)現(xiàn)，立即會(huì)被教室里的喇叭點(diǎn)名批評(píng)。

被點(diǎn)名還不是最可怕的，可怕的是“永遠(yuǎn)有攝像頭在看著你”的環(huán)境，讓人窒息，不寒而栗。

現(xiàn)在，這位母親的做法，不就是把攝像頭背后的人，換成了更精準(zhǔn)、更高效、不會(huì)疲勞、不用休息的AI嗎？

我們正處于一個(gè)AI爆發(fā)的時(shí)代，這究竟是當(dāng)代人的幸運(yùn)，還是不幸？

一直以來(lái)，我都傾向于前者，這不僅是因?yàn)榧夹g(shù)給我們帶來(lái)了諸多便利，極大提高了生產(chǎn)效率，還在于客觀世界的技術(shù)進(jìn)步，往往也能推動(dòng)主觀世界的圍墻松動(dòng)。

然而，如果技不囚人人自囚，那就太可怕了。

不管是父母陪侍在側(cè)，名之曰輔導(dǎo)作業(yè)，還是用攝像頭、用AI來(lái)監(jiān)視孩子寫作業(yè)，本質(zhì)上很可能都不是“輔助”，而是“馴化”。這種“馴化”阻礙著孩子的自立自強(qiáng)和自主學(xué)習(xí)能力，讓他們永遠(yuǎn)需要借助外力來(lái)維持自己的行動(dòng)。

不知道這個(gè)視頻是不是作為博主的家長(zhǎng)，接到的一個(gè)產(chǎn)品應(yīng)用推廣。如果是，這樣的家長(zhǎng)未免太重利而輕子了，這樣的AI產(chǎn)品設(shè)計(jì)思路未免跑太偏了；如果不是，則反映出，有些人已經(jīng)自主地陷入了AI應(yīng)用的歧途。

本來(lái)，現(xiàn)實(shí)世界中的攝像頭已經(jīng)夠多了，有資料顯示，截至2023年，我國(guó)的攝像頭數(shù)量已超過(guò)4億臺(tái)。?有機(jī)構(gòu)公布的攝像頭市場(chǎng)規(guī)模報(bào)告顯示，2024年消費(fèi)級(jí)市場(chǎng)銷量就已經(jīng)到達(dá)5349萬(wàn)套。而且，高像素?cái)z像頭不僅越來(lái)越普及，還引入了AI大模型、毫米波雷達(dá)等技術(shù)。

當(dāng)攝像頭、AI這兩大監(jiān)視利器匯合，其規(guī)模效應(yīng)只能用“可怕”來(lái)形容，一旦被濫用，后果不可設(shè)想——人人都有成為楚門的可能，且未必是被觀眾寵溺的楚門。

AI技術(shù)可以利用的方式有千種萬(wàn)種，但肯定不包括用來(lái)監(jiān)視有血有肉的人。AI技術(shù)無(wú)論朝哪個(gè)方向發(fā)展，人都應(yīng)該始終做AI的主人而不是奴隸，讓其為人類服務(wù)，而不是用來(lái)監(jiān)視、約束、統(tǒng)治人類。

監(jiān)視孩子寫作業(yè)如果被允許，那么老板就可以用來(lái)監(jiān)視員工上班、領(lǐng)導(dǎo)就可以用來(lái)監(jiān)視下屬、伴侶就可以用來(lái)監(jiān)視伴侶……（當(dāng)然如果在不知情的情況下，也都可以反過(guò)來(lái)）。

想想吧，那將是一個(gè)多么可怕的世界？