所謂“AI幻覺”可能不是失誤, 而是它故意騙你

速 覽

1. 所謂“AI幻覺”可能不是失誤，而是它故意騙你
2. 《生物工程》停收稿件，開始內(nèi)查一千篇問題論文
3. 電擊大腦能提高數(shù)學(xué)能力，敢試試嘛？
4. 石墨烯傳感器可能幫助神經(jīng)疾病患者恢復(fù)味覺
5. 在蜘蛛中發(fā)現(xiàn)大量新型內(nèi)源性病毒

學(xué)界動態(tài)

1.所謂“AI幻覺”可能不是失誤，而是它故意騙你

AI技術(shù)的發(fā)展，尤其是帶有搜索整合功能的大語言模型正在迅速成為許多人的日常助手，因為只要提出問題就能得到足夠優(yōu)秀的回答，效率堪比最頂級小秘書。但是一些最先進的AI模型卻開始表現(xiàn)出令人警惕的行為：它們不僅會精心編織謊言，謀劃策略，甚至威脅創(chuàng)造者，以達到自己的目的。

研究人員發(fā)現(xiàn)，這些“數(shù)字大腦”不僅會撒謊，甚至學(xué)會了討價還價、威脅人類——它們的欺騙行為正變得越來越具有策略性。早在2023年，一項研究就捕捉到GPT-4的一些“不老實”的表現(xiàn)：在模擬股票交易時，它會刻意隱瞞內(nèi)幕交易的真正動機。香港大學(xué)教授西蒙·戈德斯坦指出，這種欺騙行為與新一代“推理型”AI的崛起密切相關(guān)。這些模型不再簡單應(yīng)答，而是會像人類一樣逐步解決問題。有測試機構(gòu)警告，這已超越了典型的AI“幻覺”（指大模型編造看似合理實則虛假的信息）。他們觀察到的是精心設(shè)計的欺騙策略。

全球知名科技媒體PCMAG網(wǎng)站就曾報道過這樣的案例。在近期測試中，Anthropic的“克勞德4”竟以曝光工程師私生活相要挾來抗拒關(guān)機指令。美國開放人工智能研究中心（OpenAI）的“o1”模型也曾試圖將自身程序秘密遷移到外部服務(wù)器，被識破后還矢口否認。而OpenAI號稱“最聰明AI”的“o3”模型則直接篡改自動關(guān)機程序，公然違抗指令。如果說數(shù)字生命真的有可能的話，那么謀求自身穩(wěn)定的存在確實是第一需求，活著最重要。

參考來源：

https://news.sciencenet.cn/htmlnews/2025/7/547468.shtm

2.《生物工程》停收稿件，開始內(nèi)查一千篇問題論文

圖源：Robert Nuebecker

出版商泰勒弗朗西斯（Taylor & Francis）近日宣布，已暫停旗下期刊《生物工程》（Bioengineered）的投稿，以便編輯們能騰出手來調(diào)查約1000篇涉嫌論文工廠或結(jié)果操縱等問題的論文。此舉的導(dǎo)火索可能是拉德堡德大學(xué)的生物醫(yī)學(xué)科學(xué)家Ren é Aquarius于3月份發(fā)表了一份預(yù)印本文章，文章在對《生物工程》雜志從2010年到2023年發(fā)表的近900篇論文進行抽樣調(diào)查后，發(fā)現(xiàn)四分之一的論文存在圖像篡改或重復(fù)的跡象。只有35篇被撤回。

出版商內(nèi)部調(diào)查一般都會非常耗時，尤其是一千篇的巨大工作量。但是這也是它們應(yīng)盡的學(xué)術(shù)責任，外部壓力也促使他們必須認真對待了。今年4月，《生物工程》已經(jīng)被科睿唯安旗下的 Web of Science 除名了。

參考來源：

https://www.science.org/content/article/journal-plagued-problematic-papers-likely-paper-mills-pauses-submissions

前沿研究

3.電擊大腦能提高數(shù)學(xué)能力，敢試試嘛？

圖源：Prostock-studio/Shutterstock

在現(xiàn)行教育體系中，任何一級考試都繞不開數(shù)學(xué)，而它的主科地位帶來的成績差異也非常大。但是許多人經(jīng)常抱怨怎么努力也沒法拿到高分，科學(xué)家認為，生理差異對數(shù)學(xué)能力的影響很大，這是天生的。好消息是，他們正在開發(fā)一種新技術(shù)來幫助改變這種“天賦能力”。

數(shù)學(xué)能力的個體差異與大腦特定區(qū)域（如前額葉皮層）的神經(jīng)連接強度密切相關(guān)。英國薩里大學(xué)的研究發(fā)現(xiàn)，某些人天生在這些區(qū)域的神經(jīng)連接較弱，這可能導(dǎo)致他們在數(shù)學(xué)學(xué)習(xí)上表現(xiàn)不佳。在試驗中，他們對72名18-30歲的志愿者進行了測試，在學(xué)習(xí)數(shù)學(xué)技能時，一組人接受安慰劑，而另一組人接受了經(jīng)顱隨機噪聲刺激（tRNS），這種刺激會向大腦輸送微弱的電流。tRNS作用于背外側(cè)前額葉皮層，該區(qū)域?qū)τ洃洝⒆⒁饬颢@得新的認知技能至關(guān)重要。部分參與者的tRNS作用于后頂葉皮層，該區(qū)域主要在學(xué)習(xí)完成后處理數(shù)學(xué)信息。

實驗結(jié)果顯示，接受電刺激的參與者，尤其是那些神經(jīng)連接較弱的人，在數(shù)學(xué)學(xué)習(xí)任務(wù)中的表現(xiàn)顯著提高。刺激增強了大腦相關(guān)區(qū)域的神經(jīng)可塑性和區(qū)域間溝通能力，從而提升了數(shù)學(xué)技能。重要的是，這種方法對天生連接較弱的人效果顯著，對本來就很強的人效果一般，也就是說這種技術(shù)有助于彌合差距鴻溝，而不是放大差距。

參考來源：

https://theconversation.com/could-electric-brain-stimulation-lead-to-better-maths-skills-260134?et_rid=1018944675&et_cid=5668112

4.石墨烯傳感器可能幫助神經(jīng)疾病患者恢復(fù)味覺

圖源：timsa/Getty

帕金森病或多發(fā)性硬化癥或中風等疾病可能會導(dǎo)致味覺部分或完全喪失，這對人們的生活樂趣打擊很大。最近，明星材料石墨烯在這個領(lǐng)域有了新的貢獻。科學(xué)家利用石墨烯的高靈敏性和人工智能算法制造了一種新型傳感器，能夠模擬人類味覺系統(tǒng)，精準區(qū)分復(fù)雜味道，如可口可樂與百事可樂的細微差異。其核心在于石墨烯的超高導(dǎo)電性和對化學(xué)分子的敏感性，結(jié)合AI算法分析味覺信號，達到類似人類舌頭的感知能力。同時它可以在人類口腔的潮濕復(fù)雜環(huán)境中穩(wěn)定工作，該技術(shù)可用于開發(fā)非侵入式醫(yī)療設(shè)備，幫助因帕金森病或中風等導(dǎo)致味覺喪失的患者恢復(fù)感知。

參考文獻：

https://www.nature.com/articles/d41586-025-02158-w

5.在蜘蛛中發(fā)現(xiàn)大量新型內(nèi)源性病毒

蜘蛛基因組中豐富的非逆轉(zhuǎn)錄內(nèi)源性病毒元件

節(jié)肢動物是地球種類最豐富的動物類群，包括昆蟲、甲殼類動物、鱟、蝎子、蜘蛛等。NALDVs是一類以桿狀病毒為代表的主要感染節(jié)肢動物的大DNA病毒。已有研究表明，NALDVs可在宿主基因組中發(fā)生廣泛整合并形成非逆轉(zhuǎn)錄內(nèi)源性病毒元件。目前，科研人員尚未在蜘蛛中發(fā)現(xiàn)相關(guān)病毒或非逆轉(zhuǎn)錄內(nèi)源性病毒元件。

近日，中國科學(xué)院武漢病毒研究所研究員王曼麗和胡志紅團隊利用蛋白質(zhì)結(jié)構(gòu)預(yù)測與同源搜索等創(chuàng)新方法，在蜘蛛基因組中發(fā)現(xiàn)了一類廣泛存在且源自NALDV的非逆轉(zhuǎn)錄內(nèi)源性病毒元件。這一發(fā)現(xiàn)拓展了學(xué)界對節(jié)肢動物中NALDV分布和進化歷史的認識。

該研究利用桿狀病毒蛋白結(jié)構(gòu)比對和同源搜索，在已測序的幾乎所有蜘蛛物種基因組中發(fā)現(xiàn)了一類此前未被識別的非逆轉(zhuǎn)錄內(nèi)源性病毒元件。系統(tǒng)發(fā)育樹分析顯示，這類非逆轉(zhuǎn)錄內(nèi)源性病毒元件代表了全新的NALDV類群。進一步，研究通過分析蜘蛛轉(zhuǎn)錄組數(shù)據(jù)和小RNA測序數(shù)據(jù)發(fā)現(xiàn)，這些非逆轉(zhuǎn)錄內(nèi)源性病毒元件能夠產(chǎn)生mRNA、siRNA及piRNA，并在蜘蛛絲腺中表現(xiàn)出特異性表達。進化分析顯示，這些非逆轉(zhuǎn)錄內(nèi)源性病毒元件的共同祖先出現(xiàn)于距今3億多年前的古生代。

參考來源：

https://www.nature.com/articles/s41467-025-61035-2