劉永謀：AI能成為自動知識生產(chǎn)機器嗎？AI4S哲學反思的主要問題

*中國人民大學吳玉章 講席教授 劉永謀首發(fā)于微信公眾號，保留一切知識產(chǎn)權(quán)，侵犯必究。

王東著：人工智能與科學發(fā)現(xiàn)：一種哲學探索，北京：知識產(chǎn)權(quán)出版社，

超級AI之后，我們研究最重要的問題是AI4S/AI4SS的哲學反思。在我看來，AI4S中的科學（S）應該包括社會科學（SS）。該項研究最重要的問題，或者最當先的問題，無疑是AI4S哲學反思究竟應該反思什么問題。

要回答該問題，就應該對AI4S出現(xiàn)的背景以及目前進展、未來預測等智能技術(shù)相關(guān)問題有非常充分的了解。一定要記住：科學新實踐催生我們要思考的問題，而不是某種理論癖好如科學哲學新進展指導我們的反思。

我之所以這么說，是讀完王東《人工智能與科學發(fā)現(xiàn)：一種哲學探索》的感觸。王東是我的師弟，他的這本書是國內(nèi)最早AI4S方面的原創(chuàng)性著作。這本書總結(jié)了AI4S領(lǐng)域的新進展，也嘗試從哲學層面做了一些反思，在國內(nèi)多少有些開創(chuàng)的味道。

但是，這本書的哲學分析部分，明顯是從科學哲學理論發(fā)展的角度思考AI科研——AI用于科學研究活動的產(chǎn)物——的進路，因而大量內(nèi)容是對科學哲學新進展的介紹，與AI4S的實際結(jié)合不緊密。正確的思路是找尋在目前AI科研實踐中大家最關(guān)心的問題，然后用哲學的方法進行反思，所用的理論資源不一定是科學哲學，也可以是其他的哲學資源。

總的來說，AI科研哲學反思的核心問題是：AI在科學研究領(lǐng)域的應用，對科研活動會產(chǎn)生何種沖擊？這里面的沖擊，不僅包括認識論、方法論的沖擊，也包括倫理學、社會學的沖擊。

王東主要歸納的是認識論和方法論方面的討論。主要包括：1）目前AI用于科研深入到科學發(fā)現(xiàn)的什么層次？2）是否存在科研的第五范式？3）目前AI能不能自動進行科學發(fā)現(xiàn)？4）生成式AI的可解釋性問題，即生成式AI生成過程是否真的是黑箱。

從更廣泛地AI科研哲學反思的角度，還有許多問題值得研究。

比如，一個重要的問題是：AI科研替代問題，即AI大量應用于科研活動，會讓很多人失業(yè)。在科研活動中，大量的工作是重復性、機械性的，這就是所謂“科研民工”做的事情。AI替代科研民工會到什么程度，而這種替代會如何改變整個科學建制。

比如，AI科研成果的所有權(quán)和版權(quán)問題。在目前這種知識產(chǎn)權(quán)制度下，如何保證AI生成知識能開源和共享，畢竟目前生成式AI主要控制在AI企業(yè)手上。

比如，AI知識的根本性質(zhì)問題，或者說它算不算知識呢？古老的泰阿泰德問題區(qū)分知識與意見，說的都是主體知識、人的知識。AI知識是不是無主體知識，無主體知識究竟是什么？我的意見是，它與主體一起作為知識發(fā)現(xiàn)者，而不是獨立主體。

比如，AI4SS的科學性和限度問題。以前一直說社會科學知識不靠譜，現(xiàn)在用AI就靠譜了嗎？AI4SS實際是新一波社會科學自然科學化，方法是借助新工具的自然科學化。這樣生產(chǎn)的新知識真的有如自然科學知識一般的客觀性嗎？我們應該奉之為金科玉律，運用于當代技治社會之中嗎？

再比如，AI用于科研是否有限度，還是說能用盡用呢？AI知識是相關(guān)性知識，與之前的因果性知識有什么關(guān)系？我們懷疑是否存在絕對客觀中立的實驗，懷疑觀察滲透理論，那是否存在客觀中立的數(shù)據(jù)，AI生成知識之基礎的數(shù)據(jù)是否有某種前見？在科學中只有第一沒有第二，所有才有優(yōu)先權(quán)之爭，AI再發(fā)現(xiàn)的意義何在。再發(fā)現(xiàn)與新發(fā)現(xiàn)是對稱的嗎？

要注意：這些問題的討論，是以目前AI發(fā)展狀況得出的結(jié)論，能基于可見展望進行前瞻很不容易。

我想這里面有很多有意思的問題。在接下來的閱讀中，應該會有更多問題產(chǎn)生，然后總結(jié)歸納分類，可以形成AI科研哲學的大致輪廓。

以下把《人工智能與科學發(fā)現(xiàn)：一種哲學探索》的內(nèi)容錄于其后。這本書最重要的是比較全面地介紹了當前AI4S的進展。

王東著：人工智能與科學發(fā)現(xiàn)：一種哲學探索，北京：知識產(chǎn)權(quán)出版社，

1

部分

機器學習與科學發(fā)現(xiàn)的層級

1

智能驅(qū)動的科學發(fā)現(xiàn)

介紹一下

AI4S

現(xiàn)狀，主要包括在天文學、宇宙學、物理學、生物學與醫(yī)學、數(shù)學領(lǐng)域的科學新發(fā)現(xiàn)，以及在基于

AI

的科學再發(fā)現(xiàn)工作，即用

AI

尤其是極其學習技術(shù)自動再發(fā)現(xiàn)已有的科學概念、再提出已有的科學公式。

40

但是從目前的情況看，說人工智能能夠部分替代人類科學家，或者能夠發(fā)現(xiàn)重要的科學知識還為時尚早。從人工智能參與科學新發(fā)現(xiàn)的情況來看，目前的發(fā)現(xiàn)主要還是集中于對新“現(xiàn)象”的發(fā)現(xiàn)，或者在已知某個領(lǐng)域基礎知識和變量的前提下，對某些具體現(xiàn)象的經(jīng)驗規(guī)律和模式的找尋，也就是給某些特定現(xiàn)象建模。

2

機器學習

機器學習的科普介紹

提及

AI

的可解釋性問題。

3

人工智能與科學發(fā)現(xiàn)的層級

討論不同層級和種類的科學發(fā)現(xiàn)活動中，

AI

能起到什么作用。

4

數(shù)據(jù)與智能驅(qū)動科學發(fā)現(xiàn)相關(guān)的爭論

第一，是否存在科研的第五范式？即從數(shù)據(jù)密集型科學研究

數(shù)據(jù)驅(qū)動型科學研究范式進化到智能驅(qū)動科學研究范式。格瑞提出四種范式理論：經(jīng)驗科學范式，理論科學范式，計算科學范式，計算驅(qū)動科學范式。現(xiàn)在有沒有第五種新范式？有本譯本《第四范式：數(shù)據(jù)密集型科學發(fā)現(xiàn)》。

第二，

AI

能不能自動進行科學發(fā)現(xiàn)，不需要人類科學家了？

2

部分

機器學習與科學發(fā)現(xiàn)的關(guān)系

專門分析一下機器學習即這一波生成式

AI

或大模型在科學發(fā)現(xiàn)中的作用。

5

科學理論的結(jié)構(gòu)和內(nèi)容

科學哲學的認知進路

VS

科學哲學的具身智能

這一章沒有什么

AI

，主要是科學哲學新進展

6

科學與數(shù)學認知

數(shù)學哲學新進展

7

機器學習與科學發(fā)現(xiàn)過程

這一章才切入

AI

，討論了機器學習與發(fā)現(xiàn)邏輯、認知同構(gòu)理論。

3

部分

案例研究

8

語言模型與科學發(fā)現(xiàn)

9

科學史案例建模研究