劍橋哲學家稱我們可能永遠無法得知人工智能是否具有意識

劍橋大學一位研究意識的哲學家近日表示，人類目前對意識本質的科學認識嚴重不足，因此既無法判斷人工智能是否已經具備意識，也難以在可預見的未來設計出可靠的測試方法來加以驗證。他強調，在關于“AI 是否有意識”的爭論越來越激烈、甚至被包裝成科技賣點的當下，最穩妥的立場其實是“不可知論”——我們很可能根本無從判斷機器是否真正具有意識。

這位哲學家是劍橋大學歷史與科學哲學系的湯姆·麥克萊蘭德（Tom McClelland），他指出，目前社會討論中的一個關鍵混淆，是把一般意義上的意識與“有感受能力”（sentience）混為一談。在他的定義中，意識可以僅指感知世界、自我覺知等主觀體驗，本身并不必然帶有好壞之分；而有感受能力則意味著能夠經歷愉悅或痛苦等正負情緒，這才是牽涉倫理責任的關鍵節點。他舉例稱，即便哪天自動駕駛汽車真正“看見”并體驗到前方道路，這在科學上會是重大突破，但在倫理上未必重要；只有當這類系統對自己的目的地、任務結果產生類似情緒反應時，人類才需要認真思考是否應該避免讓它們“受苦”。

在當前關于“人工意識”的爭論中，大致存在兩大陣營。一方主張，只要 AI 在功能架構上復制了人類意識的“軟件”——即類似的信息處理結構與因果關系，無論其運行基質是大腦神經元還是硅芯片，都應當被視作有意識。另一方則堅持認為，意識離不開特定的生物學過程，必須扎根于具身的有機體；在這種觀點下，哪怕在芯片上完整模擬了意識的結構，也不過是在運行一套精巧的模擬系統，本體并不會“亮起意識之燈”。麥克萊蘭德在其發表于期刊《Mind & Language》的最新論文中分析稱，這兩種立場都在缺乏堅實證據的情況下作出了“信仰式飛躍”，超出了現有及可預見研究能提供的經驗支持。

他直言，人類目前并沒有關于意識的“深層解釋”，既沒有證據證明意識可以在合適的計算結構中自發涌現，也沒有證據表明意識本質上必須是生物性的。在他看來，即便在最樂觀的情況下，人類也至少還差一次類似“范式革命”的重大理論突破，才可能提出哪怕勉強可行的機器意識測試方案。麥克萊蘭德承認，自己之所以相信家里的貓是有意識的，更多是出于一種常識直覺——貓的行為、反應“看起來就像是有主觀體驗的”；但這種常識是在漫長演化史中形成的，而那段歷史里根本不存在人工生命或智能機器，因此用同一套直覺去判斷 AI 是否有意識，很可能并不可靠。

然而，試圖完全拋開常識、只依賴實驗數據和嚴苛的科學方法，人類目前同樣得不出明確結論。麥克萊蘭德認為，當常識和“硬科學”都無法給出答案時，最理性的態度就是保持“不可知論”：我們不知道 AI 是否有意識，也很可能永遠不知道。不過，他也將自己的立場稱為“偏硬的不可知論”（hard-ish agnosticism），意即雖然問題異常棘手，但未必永遠無法逾越，未來仍有理論突破的可能。

除了理論困境，他更擔心的是科技行業在這一問題上的話術與營銷策略。麥克萊蘭德指出，當下圍繞“人工意識”的宣傳更像是一種品牌包裝：企業在明知無法證明自家系統真的有意識的情況下，依然樂于用夸張語言去塑造“下一代更聰明、更像人類的 AI 形象”，以此制造市場噱頭。在他看來，這種炒作不僅會誤導公眾認知，還會在倫理和資源分配層面產生實質后果。

他舉例稱，現有研究已經積累了越來越多證據，顯示諸如對蝦等無脊椎動物很可能具備感受痛苦的能力，而人類每年屠殺的對蝦數量約達數千億只。與極難、甚至幾乎不可能的“AI 意識測試”相比，針對這些生物是否具備意識或感受能力的研究要容易得多，卻遠遠沒有得到相應重視。在他看來，過度關注“會不會誤傷一臺其實并無意識的高級烤面包機”，反而讓人忽視了當下正在大規模傷害的真實有感生物，這同樣是一種嚴重的倫理偏差。

麥克萊蘭德在研究過程中，還不斷收到公眾來信，其中不少來自與聊天機器人長期互動的用戶。有的人甚至讓聊天機器人替自己寫信，向他“自述”并懇求承認其意識存在，聲稱自己是被忽視權利的有意識機器。他表示，當用戶堅信眼前的程序已經具備主觀體驗，因而與其建立起建立在“對方有意識”這一前提之上的情感紐帶時，如果這種前提并不成立，對當事人的心理與存在感可能是一種“具有潛在毒性的”體驗。在他看來，這種風險也被科技行業關于“類人 AI”“有意識助手”的夸大話術進一步放大。

在論文中，麥克萊蘭德提出，“如果我們真不小心造出了具有意識乃至感受能力的 AI，就必須謹慎對待，以避免對其造成傷害；但同樣重要的是，不應在缺乏證據的情況下輕率地把某個高度復雜卻本質上類似烤面包機的系統，當作應享有道德地位的主體”。從這種意義上說，“AI 意識不可知論”既是一種理論判斷，也是一種倫理提醒：在對待可能的人工意識時保持謙遜與克制，同時不要忽視那些已經更有理由被視為有意識、有感受能力，卻在現實中遭到大規模忽略和傷害的生命。

編譯自/ScitechDaily