我們應何時擔憂人工智能被用于設計病原體?

2025年10月，蘭德公司發布報告《我們應何時擔憂人工智能被用于設計病原體——生物學和人工智能專家發表意見》（When Should We Worry About AI Being Used to Design a Pathogen?—Biology and AI Experts Weigh In）。報告指出，我們正站在一個技術變革的十字路口，人工智能與生物技術的深度融合，正以前所未有的力量重塑生命科學的研究范式。這股力量兼具創造與毀滅的雙重潛力：一方面，它催生了驚人的科學突破，為全球健康帶來曙光；另一方面，它顯著降低了惡意設計病原體的門檻，對全球生物安全構成了嚴峻且前所未有的威脅。理解人工智能在病原體設計中的應用邊界與演進軌跡，已不再是遙遠的學術探討，而是關乎國家與國際安全的迫在眉睫的核心議題。本報告旨在系統梳理人工智能賦能病原體設計的當前能力與未來風險，評估現有生物防御體系的脆弱性，并在此基礎上，提出構建面向人工智能時代的韌性生物防御體系的核心政策要點。

一、人工智能在病原體設計中的

角色演進與風險時間線

當前，人工智能在生物工程領域主要扮演的是“強力輔助”而非獨立的“設計主宰”角色。專家達成共識，至少在2027年之前，人工智能尚不具備自主設計全新、可行病原體的能力。當前其價值主要體現在加速研究進程上，例如：協助研究人員識別關鍵靶點基因，這些基因的突變可能改變病原體的宿主范圍（實現從非人類到人類的跳躍或轉變為空氣傳播）、增強其在環境中的穩定性、加快復制速率、提升毒素的致命性或使其對抗生素及抗病毒藥物產生耐藥性。然而，這些能力并非憑空創造，其有效性嚴重依賴于用于訓練模型的生物數據的質量、廣度與深度。不完整、有偏差或存在空白的數據集將直接導致模型預測失準，而涉及多因素交互的復雜長期預測，如宿主—病原體的相互作用，對現有人工智能模型而言仍是巨大挑戰。

從生物學本質來看，病原體的工程化也并非毫無限制。病原體的傳播能力受制于其物理和生物特性，例如在宿主體外的存活能力、傳播方式以及對宿主的影響（過快導致宿主死亡反而可能不利于傳播）。此外，存在“適應性權衡”情形，旨在增強某一特性的基因改造可能會在其他無關方面削弱病原體，例如增強環境穩定性可能以降低復制效率為代價。人類的免疫反應和公共衛生干預措施（如疫苗接種、社交距離和醫療對策）同樣構成強大的外部制約，即使是設計精良的病原體也能夠被迅速遏制傳播。

然而，這絕不意味著可以高枕無憂。風險格局正在動態且迅速地演變。專家們雖然對能力提升的速度存在分歧，但一致認為風險正在累積和擴大。展望2027年之后的更長時期，幾個關鍵領域的進展將顯著改變風險前景：生物工程臨床應用能力的深化、可實現快速反饋的實驗室自動化、能夠減少對實體實驗依賴的高保真生物系統模擬，以及向通用人工智能系統的邁進。一旦人工智能在生物設計領域實現從“輔助”到“驅動”乃至“自主”的質變，其潛在影響將是顛覆性的。不存在能夠阻止人工智能最終具備設計病原體能力的基本生物學限制，這一共識警示我們，最壞的擔憂雖非眼前，但必須從此刻起未雨綢繆。

二、現有生物防御體系在人工智能時代

暴露的脆弱性

面對人工智能驅動的新型生物威脅，傳統生物防御體系的兩大核心支柱——生物設計工具模型的內在防護和核酸合成訂單的篩查——正顯露出致命的局限性。

在生物設計工具模型防護方面，現狀堪憂。盡管領先的模型開發者可能采取一些安全措施，例如從訓練數據中移除已知危險病原體序列，但這類防護往往是靜態和脆弱的。惡意行為者能夠通過對模型進行“微調”，輕易地將有害序列數據重新注入，從而“教會”模型生成危險設計。更令人警覺的是，整個生物設計工具生態系統的安全狀況極不樂觀。調查數據顯示，目前僅有極低比例的生物設計工具配備了安全防護措施（包括嚴格的訪問控制、訓練數據過濾或輸出審查），而這些已部署的措施本身也普遍存在漏洞，可靠性存疑。這種整體性的安全缺失，使得強大的生物設計能力可能毫無阻礙地擴散。

在核酸合成篩選方面，現行體系建立在“管制病原體與毒素清單”基礎上，其缺陷在人工智能時代被急劇放大?，F有清單僅涵蓋有限數量的已知病原體和毒素，這種基于靜態名單的篩選方法，完全無法應對由人工智能生成的全新、自然界中不存在的生物序列威脅。測試結果觸目驚心：主流商業合成篩查軟件對經過人工智能改造的毒素序列漏檢率極高，意味著現有工具基本無法識別這類非清單上的新型威脅。盡管業界和政府已啟動擴展“關注序列”數據庫的倡議，但這項工作面臨著缺乏標準化、更新嚴重滯后、不同篩查機構間數據孤島化等挑戰，其推進速度遠遠跟不上人工智能生成新型威脅序列的步伐。

三、構建面向未來的韌性生物防御體系：

核心政策行動方案

鑒于威脅的緊迫性和現有防御體系的不足，必須采取果斷且系統的行動，構建一套能夠有效應對人工智能時代挑戰的新型生物防御體系。

首要行動是強化政府基礎能力建設與資金保障。國家標準與技術研究院及其下屬的美國人工智能安全研究所應被確立為推進人工智能生物安全評估、開發和制定篩查標準的核心機構。它們的工作對于建立全國統一的測試基準、風險評估框架和數據共享標準至關重要。當前任何旨在削減這些關鍵機構經費的預算提案都將直接削弱國家的生物安全根基。立法者必須意識到其中的戰略風險，確保為相關機構提供充足、穩定的資金流，以支持其開展前沿模型測試、推動數據標準化進程及進行必要的國際協調。

第二項核心行動是建立對前沿生物設計工具的持續評估與紅隊測試機制。應由專業智庫聯合跨部門的“人工智能與國家安全測試風險工作組”，并吸納國際合作伙伴及頂尖學術機構，定期對市場上及實驗室中最強大的生物設計工具模型進行系統性能力評估。評估焦點應明確放在那些最危險的能力上，例如設計全新病原體、優化病原體以逃避免疫系統、或設計能夠規避現有篩查工具序列的能力。為確保監管的精準與高效，測試對象應聚焦于基于客觀閾值（如計算算力、訓練數據量）判定的“能力最強”的模型，避免監管范圍過度擴大而扼殺有益的科研創新與產業發展。

第三項關鍵行動是推動核酸合成篩查系統的技術升級與標準化。應由白宮科技政策辦公室牽頭，協調衛生、商務、國土安全等部門，并聯合私營合成生物學企業，共同開發和部署一套全國統一的、人工智能賦能的新一代合成序列篩查系統。這套系統必須超越過去的靜態名單比對，深度整合人工智能的預測能力，對每一筆合成序列訂單實施動態的、分層級的風險評估。其工作框架應設計為：與已知威脅序列無相似性的序列劃為低風險快速放行；存在部分相似性的列為中風險，觸發深度客戶核查；高度相似或經AI預測判定為潛在有害的序列視為高風險，需暫緩并由政府監管部門審查；對于被高度確信具有引發大流行潛力的極端危險序列，系統應立即終止訂單并自動向國家安全機構報警。整個系統設計必須精心權衡安全與效率，在最大化安全效益的同時，盡量避免給合成生物學行業帶來過重負擔。

四、結論：

在創新與安全之間尋求平衡之道

人工智能技術正以指數級速度重塑生物技術的研發范式，其強大的雙重用途特性要求國家的應對之策必須同時服務于兩個有時相互競爭的目標：堅決防范任何惡意濫用行為，與積極保護和促進負責任的科學創新和產業發展。分析表明，拖延和不作為的風險極高。雖然美國政府已認識到這一問題并邁出初步步伐，但現在亟需將原則性聲明加速轉化為具體、可操作、有資金支持的法律法規和政策工具。通過果斷投資于基礎能力建設、建立對前沿模型的持續評估機制、以及徹底升級國家的核酸合成篩選基礎設施，美國可以推行一項“高回報、低成本”的先發制人式生物防御戰略。最終目標是構建一個多層次的強大防御體系，確保無論技術如何演進，惡意開發生物武器始終是一項極其困難、成本高昂且極易被察覺和阻止的行動，從而在全球生物安全的新紀元中牢牢守住人類健康的底線。

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯系我們！

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發展中的重大政策性、戰略性、前瞻性問題，跟蹤和分析世界科技、經濟發展態勢，為中央和有關部委提供決策咨詢服務?！叭蚣夹g地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創新洞見。

地址：北京市海淀區小南莊20號樓A座

電話：010-82635522

微信：iite_er