首位在世時(shí)被引量超過百萬的學(xué)者出現(xiàn)：AI教父警示AI風(fēng)險(xiǎn)

根據(jù)谷歌學(xué)術(shù)的統(tǒng)計(jì)，加拿大蒙特利爾大學(xué)的計(jì)算機(jī)科學(xué)家約書亞·本吉奧（Yoshua Bengio ）成為首位在世時(shí)論文被引量超過一百萬次的學(xué)者。而之所以強(qiáng)調(diào)是在世時(shí)，是因?yàn)榇饲胺▏軐W(xué)家米歇爾·福柯（Michel Foucault，1926–1984）在谷歌學(xué)術(shù)上的引用量已經(jīng)接近了140萬次，其中很大一部分都產(chǎn)生于他去世之后。

約書亞·本吉奧（Yoshua Bengio）

圖源：Joel Saget/AFP via Getty

約書亞·本吉奧（Yoshua Bengio ）1964年出生于法國，1991年在麥吉爾大學(xué)獲得計(jì)算機(jī)科學(xué)博士學(xué)位，長期從事機(jī)器學(xué)習(xí)和人工神經(jīng)網(wǎng)絡(luò)的研究，他與2024年諾貝爾物理學(xué)獎(jiǎng)得主、英國計(jì)算機(jī)和心理學(xué)家杰弗里·辛頓（Geoffrey Everest Hinton）、法國計(jì)算機(jī)學(xué)家楊·勒坎（Yann André Le Cun）被公認(rèn)為人工智能領(lǐng)域的奠基者之一，共同獲得了2019年計(jì)算機(jī)學(xué)界的最高獎(jiǎng)圖靈獎(jiǎng)。

約書亞·本吉奧被引用次數(shù)最多的論文包括與他人合著、發(fā)表于2014年的論文：“Generative Adversarial Nets”，該論文在谷歌學(xué)術(shù)上的引用次數(shù)超過10.5萬次，以及與LeCun和Hinton合作于2015年發(fā)表在Nature的綜述論文：深度學(xué)習(xí)（Deep learning），引用量超過7.3萬次。此外，他有關(guān)“注意力機(jī)制”（attention）的論文也備受關(guān)注，該技術(shù)能夠幫助機(jī)器分析文本。注意力機(jī)制已成為推動(dòng)大語言模型（LLM）革命的關(guān)鍵創(chuàng)新之一，其代表便是2022年推出的劃時(shí)代產(chǎn)品ChatGPT。

歷史上被引用數(shù)最多的論文是 Oliver Lowry 等人在 1951 年發(fā)表的“Protein measurement with the Folin phenol reagent”（使用 Folin 苯酚試劑測定蛋白質(zhì)）一文，這篇論文描述了一種測定溶液中蛋白質(zhì)含量的實(shí)驗(yàn)方法，已被引用超過 35 萬次（基于Web of Science 數(shù)據(jù)庫數(shù)據(jù)）， 它長期位居全球被引論文榜首，主要是因?yàn)閿?shù)十年來生物科學(xué)的迅猛發(fā)展，這類奠基性的論文成為后輩繼續(xù)前進(jìn)的起點(diǎn)。

而最近三十多年來計(jì)算機(jī)科學(xué)成為新的科研熱點(diǎn)，尤其是人工智能領(lǐng)域的快速發(fā)展，使得相關(guān)領(lǐng)域基礎(chǔ)性的研究結(jié)果成為新的奠基性文章，根據(jù)Nature的統(tǒng)計(jì)，2000年之后被引用次數(shù)排名前十的論文中，有八篇是關(guān)于機(jī)器學(xué)習(xí)的。西班牙格拉納達(dá)大學(xué)信息科學(xué)家阿爾貝托·馬丁表示，本吉奧的“學(xué)術(shù)成就毋庸置疑”。但他補(bǔ)充說，原始引用次數(shù)是“粗略的指標(biāo)”，其他文獻(xiàn)計(jì)量平臺(tái)——例如Web of Science、Scopus和OpenAlex——對(duì)研究人員的排名方式與谷歌學(xué)術(shù)不同，這些數(shù)據(jù)庫反映的總體引用次數(shù)相對(duì)較低，正如Nature的之前分析發(fā)現(xiàn)，除了同行評(píng)審期刊之外，谷歌學(xué)術(shù)還會(huì)追蹤互聯(lián)網(wǎng)上任何位置發(fā)布的圖書和預(yù)印本的引用情況。

圖源：The Canadian Press/Alamy

雖然不同的統(tǒng)計(jì)口徑可能會(huì)有所不同，但是這都不是約書亞·本吉奧所在意的事情，他在接受Nature的采訪時(shí)表示，他更關(guān)心人工智能未來可能產(chǎn)生的風(fēng)險(xiǎn)。作為這個(gè)領(lǐng)域的先行者，他對(duì)相關(guān)技術(shù)的迅速發(fā)展當(dāng)然是樂見其成，但是作為資深的科學(xué)家，約書亞·本吉奧認(rèn)為就像人類之前曾發(fā)明的所有技術(shù)一樣，AI技術(shù)能造福人類也可能帶來危害，如現(xiàn)在已經(jīng)初現(xiàn)端倪的深度偽造技術(shù)和更廣泛的網(wǎng)絡(luò)攻擊，很可能未來誰能掌控高度先進(jìn)的人工智能，誰就擁有巨大的權(quán)力，因此必須從現(xiàn)在就開始通過嚴(yán)格監(jiān)管和政策激勵(lì)來降低類似的風(fēng)險(xiǎn)，當(dāng)然現(xiàn)在許多國家都建立了人工智能安全的研究機(jī)構(gòu)，這非常有必要。

而他本人現(xiàn)在正在致力于一個(gè)有所不同的方向：Scientist AI ，其根本出發(fā)點(diǎn)在于現(xiàn)在的AI都在強(qiáng)調(diào)讓它更智能、更具自主性，而這恰恰是安全風(fēng)險(xiǎn)的來源。不受控制的、卻高度自主的人工智能會(huì)干出什么事來誰都不知道，事實(shí)上，各種場景和實(shí)驗(yàn)都表明，人工智能代理有可能進(jìn)行欺騙，或追求與人類利益（例如自我保護(hù)）相沖突的目標(biāo)。因此，他與合作者提出開發(fā)一種從基礎(chǔ)設(shè)計(jì)上就值得信賴且安全的非自主性人工智能系統(tǒng)作為進(jìn)一步發(fā)展的核心構(gòu)建模塊，稱之為“科學(xué)家人工智能（Scientist AI ）”。該系統(tǒng)旨在通過觀察和推理來解釋世界，以及根據(jù)指令采取行動(dòng)的模型，而不是為了模仿或取悅?cè)祟惗扇〔皇芸刂频男袆?dòng)。

參考文獻(xiàn)息：

1.https://doi.org/10.1038/d41586-025-03681-6

2.https://proceedings.neurips.cc/paper_files/paper/2014/hash/f033ed80deb0234979a61f95710dbe25-Abstract.html

3.https://www.nature.com/articles/nature14539/metrics

4.https://www.nature.com/articles/d41586-025-03686-1

5.https://arxiv.org/abs/2502.15657