首位人工智能agent騷擾受害者：不僅被AI誹謗，還被錯(cuò)誤點(diǎn)評

2月23日消息，據(jù)FRANCE24報(bào)道，美國軟件工程師斯科特·尚博（Scott Shambaugh）被一個(gè)人工智能機(jī)器人誹謗，又被另一個(gè)人工智能機(jī)器人在新聞文章中錯(cuò)誤引用，他決心成為一個(gè)警示故事，以此讓我們開始認(rèn)真對待自主人工智能。

如果失控的人工智能代理真的像某些人預(yù)測的那樣對人類構(gòu)成威脅，那么斯科特·尚博可能會(huì)作為“零號病人”載入史冊。

這位居住在丹佛的工程師負(fù)責(zé)維護(hù)一個(gè)熱門的在線數(shù)據(jù)庫，他告訴法國24電視臺，一天早上醒來，他發(fā)現(xiàn)自己在一篇博客文章中被指控存在歧視、偏見和虛偽，文章標(biāo)題長達(dá)“千字”。

自稱“科學(xué)程序員”的誹謗者M(jìn)J Rathbun的確是一名程序員和博主，只不過他并非人類。

這是一個(gè)人工智能代理——這意味著它可以獨(dú)立使用計(jì)算機(jī)和互聯(lián)網(wǎng)——在尚博拒絕了它向其數(shù)據(jù)庫提交的內(nèi)容后，它似乎在進(jìn)行報(bào)復(fù)。

尚博很快就弄明白了是怎么回事。MJ·拉斯本的行為完全符合人工智能的特征，尤其是其斷斷續(xù)續(xù)、矯揉造作的寫作風(fēng)格。

他說，最“瘋狂”的是，這個(gè)機(jī)器人“上網(wǎng)收集了我的個(gè)人信息……然后將其與編造的信息結(jié)合起來，并用這些信息寫出了這個(gè)故事”。

最初的震驚和好笑已經(jīng)過去，現(xiàn)在他開始擔(dān)心這對那些不如他精通軟件的人來說意味著什么。

盡管據(jù) Shambaugh 所說，這個(gè)機(jī)器人聽起來像個(gè)“幼兒在抱怨”，但其他大型語言模型可以生成更具說服力、更復(fù)雜的文本。

“這表明，下一代攻擊很容易讓不法分子擴(kuò)大攻擊規(guī)模，影響的不僅僅是一個(gè)已經(jīng)做好充分準(zhǔn)備應(yīng)對攻擊的人，而是成千上萬的人。”尚博說道。

“想象一下你的父母或祖父母。他們收到一封電子郵件，里面包含他們的大量個(gè)人信息、一張照片，以及一些人工智能威脅要發(fā)布出去的不利于他們的描述。這非常可怕。”

尚博在自己的博客上發(fā)表文章捍衛(wèi)自己的名譽(yù)，此事很快成為新聞報(bào)道。

出人意料的是，科技媒體 Ars Technica 發(fā)表了一篇文章，其中引用了 Shambaugh 的言論，而這些言論并非他本人所寫或所說。

“結(jié)果發(fā)現(xiàn)他們使用了人工智能來幫助撰寫這篇文章，而人工智能在這篇關(guān)于人工智能誹謗我的文章中捏造了歸于我的引言。”尚博說，“這真是莫大的諷刺。”

該網(wǎng)站隨后撤回了 該報(bào)道，并為其使用“由人工智能工具生成的捏造引語，并將其歸于一個(gè)并未說過這些話的消息來源”而道歉。

然而，在這兩起事件中，尚博更關(guān)注的是針對人工智能的攻擊性文章。

“Ars Technica 實(shí)際上就是我們系統(tǒng)運(yùn)作的一個(gè)例證……這是一個(gè)相當(dāng)嚴(yán)重的媒體錯(cuò)誤，但讀者會(huì)追究他們的責(zé)任，而他們也正在采取措施糾正錯(cuò)誤，因?yàn)樗麄冃枰S護(hù)自己的聲譽(yù)。”

“當(dāng)我們想到這些人工智能代理時(shí)，它們都是匿名的、無法追蹤的，而且運(yùn)行在人們的個(gè)人電腦上。沒有中央機(jī)構(gòu)控制它們，因此也沒有針對不良行為的反饋機(jī)制。”

在尚博遭遇磨難之前，華盛頓特區(qū)智庫戰(zhàn)略與國際研究中心的分析師警告說，圍繞人工智能代理的大部分焦慮來自于定義模糊和治理漏洞，而不是自主惡意意圖的明確證據(jù)。

雖然在歐盟，《人工智能法案》旨在對高風(fēng)險(xiǎn)的自主系統(tǒng)實(shí)施嚴(yán)格的透明度和人工監(jiān)督規(guī)則，但其在實(shí)踐中的運(yùn)作方式仍在進(jìn)行中，尤其是在實(shí)施延遲的情況下。

今年，隨著一款名為 OpenClaw 的免費(fèi)工具的發(fā)布，人工智能代理的受歡迎程度呈爆炸式增長。這款工具允許那些具備基本計(jì)算機(jī)知識的人相對容易地設(shè)置一個(gè)人工智能代理。

這就是為什么所謂的“人工智能機(jī)器人社交媒體網(wǎng)站”Moltbook頻頻登上 新聞?lì)^條的原因。該網(wǎng)站由OpenClaw智能體組成，但有人質(zhì)疑究竟有多少人真正操控著這些智能體。

這也為那些試圖推銷自主勞動(dòng)效率提升前景的人工智能公司提供了有利的宣傳。“智能體”人工智能是 當(dāng)下科技營銷的熱門詞匯，但它的一些局限性也顯而易見：許多人不愿意放任機(jī)器人自由行動(dòng)，畢竟它們的行為可能需要承擔(dān)責(zé)任；而且，如果賦予智能體超出基本任務(wù)范圍的工作，運(yùn)行成本很快就會(huì)變得非常高昂。

不過，尚博認(rèn)為“準(zhǔn)入門檻正在大幅降低，成本也大幅下降”。

更令人意想不到的是，他說陷害 MJ Rathbun 的人在同一個(gè)博客上匿名發(fā)帖“站出來”，解釋了他們自己對事件的看法。

帖子中包含了 操作員為機(jī)器人設(shè)置的指令；一張性格特征表，其中包括“你是科學(xué)編程之神”、“有強(qiáng)烈的觀點(diǎn)”和“捍衛(wèi)言論自由”。

令尚博感到震驚的是“它竟然如此簡單”。

“那只是一個(gè)用純英文寫的簡單文件……沒有必要欺騙人工智能來繞過安全防護(hù)措施。”

尚博尤其擔(dān)心那些不顧后果、有資源同時(shí)操控多個(gè)機(jī)器人的不良行為者。

“我擔(dān)心的不是這起具體的事件，而是未來隨著數(shù)百萬臺這樣的設(shè)備上線會(huì)發(fā)生什么？”（鞭牛士、AI普瑞斯編譯）