你的AI正在“偷看”你？當(dāng)AI越來(lái)越聰明，我們更需要“安全常識(shí)”，這場(chǎng)活動(dòng)講透了我們擔(dān)心的事

從蒸汽機(jī)轟鳴開(kāi)啟工業(yè)紀(jì)元，到電力點(diǎn)亮萬(wàn)家燈火；從互聯(lián)網(wǎng)編織全球神經(jīng)，到人工智能悄然成為我們呼吸般的存在——人類文明的每一次躍遷，都伴隨著技術(shù)的飛速發(fā)展，也總在便利與風(fēng)險(xiǎn)之間尋找微妙的平衡。

今天，AI已如空氣般滲透進(jìn)生活的縫隙：它為你寫(xiě)郵件、訂行程、診斷疾病、繪制圖像，甚至在深夜陪你聊天解憂。我們習(xí)慣了它的“聰明”，卻很少關(guān)注它的“弱點(diǎn)”——它會(huì)看錯(cuò)嗎？會(huì)被誤導(dǎo)嗎？會(huì)泄露隱私嗎？

當(dāng)AI不再只是個(gè)工具，而成了社會(huì)運(yùn)轉(zhuǎn)的一部分，安全就不再是可有可無(wú)的附加項(xiàng)，而是必須守住的底線。

11月30日下午，浙江省科技館交流廳內(nèi)座無(wú)虛席。作為“科學(xué)有觀·科話武林”第五季的收官之作，本期活動(dòng)以“AI的安全密碼：守護(hù)智能時(shí)代的未來(lái)”為主題，邀請(qǐng)到浙江科技大學(xué)人工智能與信息工程學(xué)院院長(zhǎng)、AI安全領(lǐng)域領(lǐng)軍學(xué)者錢(qián)亞冠教授，為大家解讀AI背后的安全挑戰(zhàn)。

從“幻視”到“隱身”：AI并非無(wú)所不能

錢(qián)亞冠在分享中從早期的專家系統(tǒng)講到今天的深度學(xué)習(xí)，他指出：“現(xiàn)在的AI就像一把精密的手術(shù)刀，在特定任務(wù)上很厲害，但也非常脆弱。一點(diǎn)微小的干擾，就可能讓它出錯(cuò)。”

“AI也會(huì)產(chǎn)生‘幻覺(jué)’。”錢(qián)亞冠舉了幾個(gè)案例：一張看似普通的海報(bào)，卻能令自動(dòng)駕駛系統(tǒng)將“停車標(biāo)志”誤讀為“限速標(biāo)志”；一副特制眼鏡，便可騙過(guò)人臉識(shí)別系統(tǒng)。

這些不是電影情節(jié)，而是真實(shí)存在的技術(shù)漏洞，叫“對(duì)抗樣本攻擊”或“后門(mén)攻擊”。錢(qián)亞冠解釋道：“AI看到的不是物體的‘概念’，而是像素的統(tǒng)計(jì)規(guī)律。”正是這種與人類認(rèn)知的差異，讓AI容易被精心設(shè)計(jì)的干擾所欺騙。

從偽造醫(yī)療影像導(dǎo)致誤診，到隱藏的語(yǔ)音指令攻擊，再到AI模型泄露隱私——AI的安全問(wèn)題已從實(shí)驗(yàn)室走向現(xiàn)實(shí)社會(huì)的各個(gè)領(lǐng)域。錢(qián)亞冠提醒：“我們?cè)诎l(fā)展技術(shù)的同時(shí)，也必須為AI系好‘安全帶’。”

每個(gè)人都是智能時(shí)代的“安全守護(hù)者”

在“科話武林”互動(dòng)環(huán)節(jié)，錢(qián)亞冠與觀眾展開(kāi)了交流。面對(duì)“普通人如何防范AI風(fēng)險(xiǎn)”的提問(wèn)，他提出三點(diǎn)建議：保持警惕、減少分享、自己負(fù)責(zé)。“請(qǐng)把AI聊天框看作一個(gè)公開(kāi)場(chǎng)所，”他說(shuō)，“不要在里面輸入身份證號(hào)、密碼或商業(yè)機(jī)密。”

談到如何在利用數(shù)據(jù)的同時(shí)保護(hù)隱私，錢(qián)亞冠介紹了“差分隱私”和“遺忘學(xué)習(xí)”等技術(shù)。“這就像給數(shù)據(jù)打碼，或者讓AI學(xué)會(huì)忘記——既要讓數(shù)據(jù)發(fā)揮作用，也要保護(hù)個(gè)人隱私。”談及未來(lái)，他預(yù)言：數(shù)字水印、對(duì)抗訓(xùn)練、模型可解釋性工具將如同今天的殺毒軟件一樣普及，成為每個(gè)人數(shù)字生活的“基礎(chǔ)免疫系統(tǒng)”。

現(xiàn)場(chǎng)觀眾也踴躍提問(wèn)，從對(duì)AI創(chuàng)作版權(quán)的困惑，到家長(zhǎng)對(duì)孩子沉迷智能設(shè)備的擔(dān)憂，錢(qián)亞冠都耐心回應(yīng)，并始終傳遞一個(gè)信念：技術(shù)本身無(wú)善惡，關(guān)鍵在于使用者的認(rèn)知與選擇。

正如錢(qián)亞冠所言：“AI的未來(lái)，不在代碼里，而在我們每個(gè)人的手中。”在這場(chǎng)人與AI共舞的時(shí)代浪潮中，唯有以理性為舵、以責(zé)任為錨，方能駛向真正安全、可信、向善的智能未來(lái)。

科學(xué)有觀·科話武林

“科學(xué)有觀”致力于推進(jìn)科普創(chuàng)新融合發(fā)展，自創(chuàng)辦以來(lái)，已邀請(qǐng)到航天英雄楊利偉、英雄航天員劉伯明、都有為院士、楊德仁院士等多位大咖參與活動(dòng)。2025年，“科學(xué)有觀”活動(dòng)進(jìn)行了全新升級(jí)，特別策劃推出了更具有好奇與探索精神的“科話武林”系列活動(dòng)，邀請(qǐng)來(lái)自不同領(lǐng)域的頂尖科學(xué)家、行業(yè)先鋒、專家學(xué)者匯聚一堂，在城市中央的“武林”C位，共赴一場(chǎng)關(guān)于科學(xué)的深度對(duì)話。

來(lái)源：省科技館、都市快報(bào)

責(zé)編：葉　揚(yáng)

美編：鄭娜莉

一審：何百岳

二審：方佳佳

三審：王陸軍