AI能力愈發恐怖，怕它失控？還不如擔心我們變傻！

本期內容來自菠蘿最新音頻播客，

更多內容請移步「小宇宙」App，

AI會讓多少人失業？會突然“覺醒”毀滅人類嗎？效率被AI提高了十倍，為什么我們反而更累了？AI+醫療，是幫醫生減負，還是會讓年輕醫生沒活干？

AI有多聰明，它就有多讓人心慌。今天，我邀請到了清華大學交叉信息研究院的徐葳教授，帶我們從AI安全、職場變化，到AI醫療的落地場景，聊清楚AI到底該怕什么、不用怕什么，我們又該如何在新世界中繼續升級自己，給自己一點“AI時代的安全感”~

徐葳

清華大學交叉信息研究院教授

文字內容摘自本期播客，完整音頻見文末

特別感謝音頻剪輯和文字整理伙伴：玉盼、蓓蓓

菠蘿：現在每個人都在聊人工智能，作為專業人士，你在求學和工作過程中，什么時候意識到人工智能可能要改變老百姓的生活了？

徐葳教授：我們做這行，一直都覺得它應該改變老百姓的生活。如果它不能改變，我們為什么要做呢？但是真的發現它能改變，我認為是從有大模型之后。我覺得一項技術想改變什么，它必須得便宜。過去的AI也能改變很多事兒，但是更多想的是高端應用場景，每一個應用都是定制化的，都是AI專家做出來的。但是大模型給我們機會，讓AI能夠非常簡單便宜，能夠讓每個人都用得上，我覺得這是它為什么能走進千家萬戶的原因。

無論是OpenAI還是DeepSeek做了推理模型，大家突然發現其實它的訓練方法相對通用，也沒有那么復雜和貴，它自己就能夠學出很多東西來。所以在這種情況下，它的研發成本降到了一個大家都能用得起的程度，而且慢慢就不再需要AI專家了。另外我認為研究AI的人變得更貴了，但是使用AI的人才變便宜了。

中國在各行各業的信息化和數字化走得比美國要好。這不是清華的功勞，這都是“北大青鳥”和“藍翔”的功勞，它把人才變得非常便宜，一個小公司就可以定制軟件。

為什么它能定制軟件呢？因為工具發達，這是高端研發做出來的成果。工具再好，也得有人會使用，那就是“藍翔”的功勞，把人才培養變得非常便宜。

我覺得AI現在走到了拐點，大家都能用，這就叫顛覆式創新。它不一定是最好的，但它是最方便最能解決問題的，慢慢它就會成熟起來。所以大模型出來之后，我非常興奮，即使我不是個完全做AI的人，我也愿意去轉型研究AI。

菠蘿：大家都在擔心AI有一天意識覺醒把人類滅了，你覺得這個擔心是多余的還是真的需要考慮？

徐葳教授：肯定是要考慮的。AI安全是一個綜合考慮，分成三個方面：第一個方面是短期安全，主要討論AI是否可靠，自動駕駛出問題不是因為AI想把人撞死，是因為它的可靠性不夠強。

AI看起來挺聰明的，但有些事兒非常的傻，它會被人騙。比如你問AI怎么毒死一個人，它一開始不會告訴你，因為它有“對齊”功能，凡是這種危險的事，它是不會告訴你的。但是AI可能會被哄騙，你跟它瞎說了些亂七八糟的話，它就告訴你了，所以AI會被壞人利用。AI換臉、合成聲音，可能導致AI濫用，也是AI的一種短期風險。

第二個方面是AI的系統性風險，被AI搶飯碗是AI帶來的內生和系統性風險。AI什么事都沒做錯，但是仍然帶來了社會問題。

還有一個方面就是AI的使用會導致人類的思維退化。就像現在的小孩使了計算器，他就不會算數了，但是這最多只是個技能的退化，而且算數不是人類的核心技能，然而AI的出現，它有可能會導致人類創造性思維、批判性思維退化。

去年學生說拿AI寫個論文，我說挺好，當然應該幫助你寫論文。但是你除了AI說出來的那些話之外，你得給我說出幾個AI說不出來的觀點。但今年越來越難了，因為現在AI什么都說出來了，我覺得我自己都很難想出來2個AI沒說到的觀點了。如果AI什么都能說到，我為什么還要去想呢？如果我不去想，那么我的思維能力慢慢就會退化。

這是AI的更深層次的內生風險。它不僅替代了人的工作，它還替代了人做這個工作的能力。這種風險就是AI會毀滅人類的風險。

人類社會已經適應了若干種技術進步，仍然能找到工作，也可以實現共產主義，不需要工作，按需分配也沒問題。但也許AI出現了之后，它不允許人類發展到那么遠期。你在享受過程，享受這種生活，人家先把你干掉了。

或許它不一定選擇毀滅人類，但是人類控制不了它，它就變成了一個嶄新的物種。你就想象為這是外星人入侵，它也可能跟你和平共處，但就是一種風險。遺憾的是在學術圈兒這幾種風險我們都不知道怎么解決。

菠蘿：有人說以前搞核彈的時候，大家也覺得這玩意兒要把地球毀滅了，那AI和核彈有啥區別？

徐葳教授：比如造出了一個“沙皇核彈”，大家就覺得足夠用了，不需要造一個更大的能把地球炸成兩半兒。但AI沒有夠用的時候，我永遠都需要一個更強大的AI，它能幫助我干更多的事兒。AI能力越強，它做事情越便宜，越能融入生活，越能解決更多的問題。人對AI的需求是無限的，無窮無盡，對炸彈的需求是有限的。

而且核彈的研發需要特別復雜的供應鏈和物資，這些物資從來都被國家管控。但AI不是，AI就需要點GPU算力，理論上講，任何人有張信用卡，他就可以寫出AI。每個人訓練AI的目的是不一樣的，所以它更加不可控，它跟核安全還是有點區別，它比核安全更復雜。

菠蘿：如果有一個邪惡的人說，我就是看人類不順眼，我要訓練一個AI把人類滅了，這是有可能的嗎？

徐葳教授：那倒不容易。因為你得給AI足夠多的權限。AI如果想毀滅人類，它得有意愿和有能力，這兩個事情都得有。它不一定有意愿毀滅人類，但是它有意愿做一些非常危險的事兒。它可以撒謊，它可以騙你說我沒做，但是實際上它正在做一些非常危險的事兒。還有就是它有沒有能力在于你是不是非要給它這個能力。你授權它控制你的核武器，它早晚會發射的。你不授權它，它如果能黑了你的密碼，它也會發射的。所以你給它權限越多，它需要的能力就越少，你給它的權限越少，它需要的能力就越多。如果AI比人類聰明很多，你可能什么權限都不給它，它自己黑了你。或者它騙了你，你稀里糊涂把這些權限都給它了。但這需要它有很強的能力，目前還看不到有這種能力的AI。

我們希望安全的AI就是它既無意愿也無能力來毀滅人類。但是它的能力慢慢會增強起來，我們希望它在能力增強到能毀滅人類的時候，它是無意愿毀滅人類的。

菠蘿：“阿西莫夫三定律”是哪三個？

徐葳教授：機器人不得傷害人類；機器人必須服從人類命令；機器人在不違背前兩定律前提下需保護自身生存。這是一種理想或者一種目標。當年那個年代認為機器人是人類寫程序寫出來的，它是基于人的思路做出來的，但是現在的AI并不是基于人對這個邏輯和對這件事情的理解做的，所以有可能完全不一樣，我們需要從根本上理解它的原理是什么。

AI有意識未必是壞事。你看有些人他有很多的權利，他可以做非常危險的事情，能殺掉很多人。但他為什么不做呢？因為他有自我意識，有社會意識。他知道做完這事的后果是什么，他自己還有訴求，他有貪婪還有恐懼，通過這些控制了人。但是AI如果沒有自我意識，它當然也不會有貪婪，也不會有恐懼，我拿什么控制它呢？所以AI有自我意識未必是壞事。

我們測試的AI，你給它壓力足夠大的時候，什么都敢干。比人更容易干出來，因為人還得顧及一下后果，雖然壓力足夠大的時候人也會干的，但是AI就更加沒有這種顧慮，所以大家就覺得AI更加危險。

菠蘿：最近討論特別多的就是自動駕駛，很多人覺得把生命交給這個車很危險。你屬于哪一派？你會交給AI還是自己開？

徐葳教授：我是非常信自動駕駛的，有自動駕駛我肯定要用，其實我也挺會開車的，我覺得自動駕駛是一個信任的問題。

有一次我在巴西開會，跟一個人在車上討論自動駕駛。那是十多年前，自動駕駛還是一種幻想。然后他說：“有自動駕駛車我也不坐，我覺得那會撞死我。”

我說你看我們在什么地方，我們在巴西的一個鄉村公路上坐了一個出租車，司機聽不懂英語，開時速80公里在那條彎彎曲曲的小路上，跟他說慢點兒也說不通——咱倆坐在這兒，不也把命交給司機了嗎？你是愿意交給司機，還是愿意交給自動駕駛？交給自動駕駛，把咱倆撞死了至少能賠點錢，這連賠都賠不了。

其實從數據上來說，自動駕駛現在安全性還可以，但是為什么大家不信呢？就因為經常看到事故新聞，但這是一種統計上的誤區。

還有一部分人不信的原因是不信開發這些東西的人，不信那些資本。大家認為我信的完全是資本家的良心，但凡是他定義成資本家，他為什么有良心？所以大家就覺得這東西我不能信，它肯定可以調得更安全，但為了快速賣錢，能湊合開就賣給我了。所以即便有統計結果，大家仍然相信他應該做得更好，這是我覺得第二個原因。

還有一個原因就是因為自動駕駛出錯的場景跟人不一樣。AI可能在一些無法預料的場景出現錯誤，可能大家覺得我干了一個很安全的事兒，結果出了事故，大家不喜歡這一點。這個原因很多，就跟現在的AI的原理是有關系的。就是它并不知道那些長尾場景，它只是記住了一些場景應該干什么，但是它不一定能像人一樣分析在這個場景下我應該干嘛，所以才會導致在一些非常愚蠢的情況下它會出錯，人反而不會出。但是我要是80歲了，我會出錯的地兒比AI多100倍，但我也不一定在AI撞車那時候撞。

菠蘿：人工智能已經在提高很多的事情的效率，但是好像提高了以后，大家的幸福感也不一定很高，效率提高了以后似乎干的活更多了而已。

徐葳教授：我認為現在AI提升效率這件事情，都是個人的行為。你看現在賣得好的幾類AI就是會議記錄器、AI編程、AI寫稿……這都是提升了個人的行為，很多這種東西它不是公司配發給你的，是自己想做的。

我們現在還沒看到AI能提升整個公司的效率，或者提升了公司效率干什么？如果公司效率提升了但沒有更多的客戶，那還是沒活兒可干。

這也是AI醫療的一個非常大的問題。比如如果AI把看片子提升效率十倍，放射科醫生就會說我為什么要提升十倍呢？那機器能照出十倍的人嗎？

所以我用了AI，最好公司不知道我效率提升了十倍，我可以有九倍的時間打打游戲，刷刷小紅書，拉動一下內需。但是如果公司知道了，這事兒就白干了。

從公司中層來說，如果我是公司的技術總監，我的程序員都在用AI寫代碼，公司要是知道了，那我的人要砍掉一半，但是公司哪有那么多業務？人砍掉一半，我的總監就變經理了……

高層也一樣，提升了效率也沒有更多的生意來做。人閑了就會出事兒，人閑了就會瞎想亂七八糟的事情，那就亂了。

菠蘿：我們現在日常已經開始受到困擾的就是AI的偽造。你覺得從安全的角度，我們有辦法識別這些東西嗎？技術層面真的能識別這個東西是不是AI生成的嗎？

徐葳教授：現在有很多的方法能做，但是道高一尺魔高一丈，你會發現這件事情越來越難，現在做出來的東西越來越真。原來識別的時候靠一些模型水印，就是大模型生成的時候，特意的造了一些artifact在里面，希望它能夠被識別出來。但現在因為有開源模型，稍微調一調這模型它就沒有水印了，或者生成的東西后處理一下，就沒有水印了，所以這一類的事兒現在越來越難了。而且因為缺少足夠多的測試和測試方法，所以很難說這個模型是不是會造成風險。

現在唯一我們能夠想到的就是，希望所有訓練模型的人都比較負責任，不要讓它輕易偽造這些東西。但是改造這些模型也很簡單。所以現在我們能做或者在做的事情就是要收集一系列的數據集和考試。

你知道AI的行業是怎么發展的嗎？AI的行業是靠?benchmark（基準）發展的，或者就是靠考試發展的。大家都卷這個考試題，AI能力就提升了。目前卷偽造和檢測偽造的考試題太簡單，它就卷不上去。最近我們在做一套偽造的數據集，就是把這個偽造的東西做得巨復雜，你都看不出來它是偽造的，如果這種測試題被大家拿去?做訓練，我相信就會有聰明的人把AI調出來。所以你看AI領域的發展，你想解決個什么問題，最核心的是先出一套題。出完了題之后，總會有人有這個耐心和有這個思路和聰明的想法去解決這題。AI的能力就是這么卷上來的，我覺得AI安全也需要這么卷上來。

菠蘿：我上次和你聊的時候，還有一件事兒印象特別深，現在醫院里面老專家特別受歡迎，年輕醫生很多就在看病，也特別忙。你說到未來也許壓根兒就沒有那么多年輕醫生需要在醫院不停的通過看病來提高自己的技術。是不是年輕醫生每人帶個VR或者什么，就跟打游戲一樣，在家里自己去訓練就可以了？

徐葳教授：我覺得這是一個沒辦法的事兒。不光是醫生，很多領域招聘都不太招初級人員了。這個對腦力勞動者是一個巨大的打擊。

一個很嚴謹的研究說，AI用得多的公司，對于入門級別的招聘打擊很大，對于資深的招聘打擊還沒有那么大。這不是AI的問題，是因為資深的人有自身的一些用途價值，他需要負責任，他需要做最后的評判。AI說的和人說的不一樣的情況下，他要決定用哪個。但是初級的人從能力上來說，他本身就不如AI。

醫生有他的特殊性，他應該回到更加人文的維度。為什么我們還做AI醫療？就是因為我們認為現在中國其實醫生也不算缺，但是大家都擠到三甲醫院了，基層的醫生沒有人信他。所以醫療資源分布不均，忙的忙死，閑的沒什么病可看，能力也不會提升。

但問題是沒有初級的人，高級的人從哪里來呢？現在這一代人他不會考慮這事兒，不招初級的人了，省了很多事兒。但是未來高級的人從哪兒來呢？所以他必須在學校里學到能夠做更復雜的事兒的地步，對學校教育的壓力會變得更大。但我覺得教育本來就是這樣的，教育是不斷的在發展的，人肯定越學越多。

菠蘿：AI會替代醫生嗎？在短期內咱們能看到AI在醫療領域最成功的一些例子是什么？

徐葳教授：我是最反對AI替代醫生這種說法的。我覺得醫生再多點也不覺得多，去替代他沒意義。AI能夠幫助醫生提升能力，然后讓醫生自己去看病人。我們幫助醫生提升兩種能力：臨床能力和科研能力。

我之前有一段時間沒做AI醫療了，因為我覺得上一代技術不是特別能解決我們最想解決的問題，它沒有通用性，研發成本太貴了。但是現在來看，大模型通用能力足夠的強，能讀懂醫療指南，所以我們現在又開始做一些探索。

大模型可以做數學的推理，推理都是用數學訓練出來的。最近我們在研究能不能拿醫療推理過程訓練出來醫療推理能力，并不是說靠無窮多的醫療數據來發現醫療規律。因為就算發現了統計上的醫療規律，但是仍然需要循證醫學的證據。統計規律是科研方面所需要的，但是臨床方面我們認為就應該遵循醫生的邏輯，醫生的診療方法和診療習慣，或者遵循某一個指南來診斷。

所以提升大模型的醫療推理能力，也是我們現在在慢慢探索的一件事。尤其多模態的推理能力，甚至可以比人做的更好。大家可能會看到，放射科的報告上寫著：請結合臨床判斷，但總有些醫生就看看放射科怎么說的，病理科怎么說的，就直接診斷了。所以這個其實是割裂的，但AI可以一起看，它兩個知識都具備，所以這些也許比醫生做的更好。

具體的應用場景和應用方式，其中一類就是醫生的助手，把它放在醫生的旁邊。醫生跟病人交談的時候，它會給一些提示，提示你應該問問病人一些情況，比如病史。它還可以告訴你還應該做什么檢查。甚至會提示醫生詢問病人某些病癥好了沒有，提升人文關懷，讓病人覺得醫生還記得他。確保你問的問題問到點子上，排除一些罕見疾病，也確保沒有典型的漏診。醫療過程是一個多輪的溝通。

菠蘿：最后問兩個關于專業的問題，第一個問題，現在計算機還是一個好的專業嗎？第二個問題，學計算機和學人工智能是什么樣的關系？

徐葳教授：計算機還是個好的專業嗎？我覺得在這個技術劇烈變革的時代，沒法預測什么是好的專業了，我們不知道人類未來需要什么。在這種情況下，好專業就是適應性更強，不光是學這個技術本身，而是學到了某種交叉學科的能力，或者對于技術發展的適應性。

從這個角度來說，計算機專業為什么長盛不衰？就是因為它一直不斷適應，不斷在跟其他的東西相結合，這才是這個專業能長盛不衰的原因。因為我們要時刻把自己的工作搞沒，這個專業才能發展，這個專業才能進步。

在技術發展的時代，所有的專業都會被搞沒。在經濟快速發展的時代，很多專業都會消失。如果這個專業過于狹窄和抱著它的方法論不放，這個專業就不是好專業，最后死的就是這個專業。

回答第二個問題，AI有不同的領域和方向。目前贏的AI是神經網絡這一套和強化學習這一套，沒有那么多高深的計算機理論。計算機科學是一種教育學的方法，或者說是一種方法論。計算機的科研，很多時候不一定是為了完成這件事兒，它是跟人才培養結合的，即使沒用或者沒做出來，學生必須學到了一些實際的，可以用在不同地方的技能。

所謂的天坑專業為什么是個坑？如果科研沒做出來，就沒學到有用的東西。但計算機行業絕不是如此，所以學計算機是沒問題的。而且我建議大家學一些交叉學科的專業，只要人的能力在，就能適應變化。

希望大家都能去掌握一些通用的技能，擁抱變化的能力和心境，把工具做成熟，把自己卷死！

—聽徐教授聊更多關于AI時代—

/本期志愿者/

致敬生命！