超級人工智能：福兮禍兮？

近日，據英國《金融時報》報道，史蒂夫?班農（Steve Bannon）、梅根?馬克爾（Meghan Markle）與斯蒂芬?弗萊（Stephen Fry）等公眾人物，聯合包括“AI教父杰弗里?辛頓（Geoffrey Hinton）、百度前總裁張亞勤在內的800多位世界名流，簽署了一份聲明，呼吁禁止開發“超級智能”，即在智力上超越大多數人類的人工智能系統。這一事件引發了全球對于人工智能發展的廣泛關注和深刻思考。

人工智能的發展如同一場洶涌的浪潮，正以前所未有的速度和規模改變著世界。毫無疑問，它帶來的正面影響無疑是巨大的，為諸多領域發展提供了強大的驅動力。

在醫療領域，人工智能展現出了巨大的潛力。AI工具在解讀病毒基因組、整理臨床試驗數據等方面發揮了重要作用，助力疫苗研發提速，流行病防范創新聯盟的目標是實現100天內研發并部署新疫苗，如今已接近這一目標。AI工具還能輔助診斷中風、癌癥及其他疾病，它正逐漸成為全球醫療體系的重要組成部分。

在工業生產中，人工智能推動了工廠自動化的發展。如在小米的“黑燈工廠”，高度自動化可以實現每6秒生產一部智能手機，且僅需少數技術人員負責系統監控。德國西門子研發的AI驅動的工業輔助系統，能幫助工程師通過自然語言操控機器人，還能自主識別機械故障，讓生產效率提升30%。

此外，人工智能在教育、環保等領域也有著廣泛的應用和積極的影響。

然而，人工智能快速發展背后所隱藏的負面影響也不容忽視。隨著人工智能技術越來越深入人們的生活，諸多倫理問題逐漸顯現。據英國《衛報》近日報道，AI生成的極端貧困、兒童以及性暴力幸存者圖像正在大量涌入圖庫網站，并被越來越多的全球衛生非政府組織使用，引發了全球衛生專家的廣泛關注。在智能經濟領域，人工智能推動產業升級的同時，也帶來了結構性失業風險和貧富差距拉大的風險，還存在數據泄漏或數據濫用帶來的大數據殺熟、金融欺詐等風險。

在智能生活領域，生成式人工智能的大規模應用，使得深度偽造、虛假信息、數據失實、大模型幻覺等問題愈發凸顯，極大地沖擊了社會誠信體系。信息繭房可能導致群體極化，算法偏見會引發社會歧視，隱私泄漏則可能帶來網絡暴力等風險。

而對于“超級智能”的擔憂，則是更深層次的問題。隨著各大科技巨頭和初創企業競相追求“超級智能”或“通用人工智能”的突破，人們擔心一旦這種在絕大多數任務上表現超越人類的人工智能系統失控，將對人類社會造成毀滅性的打擊。正如生命未來研究所主席馬克斯?泰格馬克所說：“最大的威脅或許并非來自另一家公司，甚至不是另一個國家，而是我們自己正在建造的機器。”

此次800多位世界名流聯名呼吁禁止開發超級智能，也反映出了全球對于人工智能發展的擔憂和對安全、可控發展的渴望。民意調查結果顯示，僅有5%的美國人支持當前“不受監管的人工智能開發現狀”，近四分之三的受訪者支持對人工智能實行強有力的監管，這也表明了公眾對于人工智能監管的強烈訴求。

全球范圍內的人工智能監管進程雖然進展緩慢，但已經邁出了重要的步伐。歐盟《人工智能法案》正分階段實施，美國的加利福尼亞州、猶他州和得克薩斯州等也已頒布針對人工智能的具體法律。中國也在積極推動人工智能的健康發展，2025年8月，國務院印發《關于深入實施“人工智能+”行動的意見》，提出要加快形成人機協同、跨界融合、共創分享的智能經濟和智能社會新形態。

人工智能的發展是一把雙刃劍，它既帶來了巨大的機遇，也帶來了諸多挑戰和風險。正如生命未來研究所主席馬克斯?泰格馬克（Max Tegmark）在發布申明后強調的，“我們絕非呼吁全面暫停人工智能的發展，但治愈癌癥、實現自動駕駛，或大幅提升生產力和效率，這些目標都不需要依賴超級智能即可達成。”

面對人工智能的發展，我們不能因噎廢食，停止人工智能的發展，但也絕不能忽視其潛在的問題。如何在享受人工智能帶來的繁榮的同時，有效防范其可能帶來的隱憂，是擺在我們面前的重要課題。這需要全球各國、各界人士共同努力，加強合作與交流，建立健全的監管機制，確保人工智能的發展能夠真正造福人類，而不是給人類帶來災難。