臉書創始人反水！砸數億美元搞AI安全，跟特朗普政府硬剛到底

達斯汀·莫斯科維茨在四年后離開了臉書。盡管公司初創成員的身份讓他成為億萬富翁，但莫斯科維茨此后開始對社交媒體給世界帶來的影響表示擔憂。

他曾說：“這是一股強大的力量，其后果難以預測，也難以掌控。”他決心在硅谷的下一次技術飛躍中，以更審慎的態度對待。

正是出于這種心態，身為民主黨重要捐款人的莫斯科維茨投入數億美元資助人工智能安全研究，并成為人工智能實驗室Anthropic的早期投資者。目前，這家主打安全的人工智能實驗室正與特朗普政府陷入激烈的爭端。

目前的博弈主要分為兩個陣營：一派是“安全主義者”，他們擔憂存在性風險，將人工智能比作核武器，并要求對技術開發制定嚴格規則；另一派是“加速主義者”，他們預言人工智能將帶來巨大的財富和科學發現。

雙方的立場很大程度上由對立面的存在所定義。安全優先派認為對手極其魯莽，而對手則稱他們為歇斯底里的“末日論者”。這場爭論不可避免地帶有政治色彩。加速主義者向特朗普靠攏，將安全顧慮視為左翼管控的遮羞布，認為這會扼殺增長并限制自由。而包括民主黨重要捐款人在內的“末日論者”則指責特朗普陣營的人在玩火。

誰能最終勝出，或許將決定人工智能的發展方向，甚至有人認為，這也關乎人類的未來。這場爭論背后的緊張關系已醞釀多年。在批評者眼中，莫斯科維茨是這個故事的“零號病人”。

24歲離開臉書后，莫斯科維茨迅速成為世界上最年輕的白手起家億萬富翁。他渴望將財富用于公益，但很快因缺乏數據支持慈善決策而感到沮喪。

2011年初的一個周日，他和當時的女友、如今的妻子卡里·圖納與30歲的前對沖基金經理霍爾頓·卡諾夫斯基在舊金山共進早午餐，這次會面改變了一切。

卡諾夫斯基運用金融行業的工具來評估慈善捐贈的最優方案。隨后，莫斯科維茨、圖納和卡諾夫斯基共同創立了非營利組織“開放慈善”，該組織近期更名為“系數捐贈”，已向公益事業投入約40億美元。

這家位于舊金山的組織已成為“有效利他主義”運動的領軍者。該運動致力于優化福祉并減少痛苦，不僅針對人類，其擁護者甚至熱衷于通過捐款來減輕數十億只蝦的痛苦。

近年來，該運動日益擔憂人工智能可能給人類帶來毀滅。2016年，“開放慈善”表示擔憂人工智能若被濫用可能導致“全球性災難后果”，并承諾提供“大量資金”以應對此風險。

它資助了包括“生命未來研究所”在內的多個團體，后者曾呼吁暫停人工智能開發。自2019年以來，它已向喬治城大學的安全與新興技術中心投入超過1億美元。

正是后者讓“有效利他主義”的追隨者得以進入美國權力核心。安全與新興技術中心憑借其模糊的名稱和無黨派的使命陳述，看起來就像華盛頓眾多智庫中的一個。但批評人士指出，該組織成立后的多年里，實際上左右了華盛頓的人工智能政策。

安全與新興技術中心資源充足，旨在填補國會山人工智能專家短缺的空白。因此，當OpenAI于2022年11月發布ChatGPT并引發全球人工智能狂潮時，該中心已做好了準備。

憑借與用戶自然對話并生成類人回答的能力，ChatGPT讓人們感到人工智能首次跨越了“恐怖谷”，接近了真正的智能。其發明者將其作為實驗發布，卻完全沒料到會引發如此巨大的關注，各國政府也對此感到困惑。

安全與新興技術中心迅速填補了這一真空。拜登政府很快充斥著該智庫的專家。首任主任杰森·馬西尼成為國家安全與技術顧問；網絡安全總監本·布坎南成為白宮人工智能特別顧問。該中心的學者塔倫·查布拉和賽義夫·汗也進入白宮擔任技術與國家安全顧問。

據《政治報》調查，由莫斯科維茨的“開放慈善”于2022年設立的“地平線公共服務研究所”也資助了一系列進入白宮任職的職位。

“他們堅信只有少數人比其他人更聰明，應該控制人工智能的準入，并且只有他們有能力辨別相關的倫理、規則和法律，”科技公司資助的游說團體“建設美國人工智能”的內森·利默表示，“而拜登政府完全照單全收。”

“有效利他主義”的支持者認為，在ChatGPT問世前幾年，他們是唯一認真對待人工智能的人。當政客們尋求專業建議時，他們恰好在場，這并非他們的過錯。

但批評者抱怨稱，有效利他主義者實際上以一種阻礙發展的方式接管了人工智能政策。此外，這背后還有個人與政治的故事。作為臉書聯合創始人的莫斯科維茨，也是拜登2020年競選活動的最大捐款人之一，據報道捐贈了1億美元以幫助拜登入主白宮。

拜登政府很快開始收緊對技術的管控。2023年，時任總統下令要求主要人工智能實驗室報告安全測試結果，批評者認為這是政府試圖審批人工智能公司業務的前奏。拜登還提議對人工智能芯片和軟件的出口實施全面限制。雖然從未成為官方政策，但在華盛頓，要求人工智能公司獲取運營許可的想法一度廣為流傳。

知名特朗普支持者、風險投資家馬克·安德森后來聲稱，白宮官員曾告訴他，最終計劃是讓人工智能受到“政治控制”。“‘我們將確保人工智能成為兩三家大公司的職能。我們將直接監管和控制這些公司。不會有初創企業，’”安德森去年在播客中說道。

拜登政府還要求采取措施打擊政府使用人工智能時的歧視行為。例如，計劃在移民執法或醫療保健中使用該技術的美國機構，必須測試系統對“公平性”的影響。成為特朗普人工智能沙皇的科技投資人大衛·薩克斯聲稱，這等同于強推“覺醒人工智能”。

“那些控制拜登人工智能簽名機的人，從沒在硅谷工作過，”他后來表示。“系數捐贈”的發言人表示，其支持的專家進入政府任職是很自然的事。“我們早期的目標之一是培養思考這些問題的專家，因為這些問題涉及技術、安全和治理的結合，而10年前沒有任何現有領域能夠解決這些問題，”發言人稱。

“無論哪個政府執政，擁有相關人工智能專業知識的人被政府招募都是正常的，我們認為這種公共服務是件好事。”該組織補充說，他們既資助利用人工智能優勢的工作，也對風險發出警告。

“我們相信人工智能有潛力極大地加速科學技術發展并推動經濟增長，同時也帶來了一些前所未有的風險，”發言人表示，“我們支持深入的研究、討論和辯論，以確保在規避風險的同時，實現人工智能的巨大潛力。”

反監管的科技行業大部分站在了特朗普一邊。當他在2024年大選中獲勝時，他們得到了回報。特朗普推翻了拜登的人工智能政策，稱其前任試圖“癱瘓”該行業。被招募來提供建議的硅谷高管包括薩克斯、曾在安德森風投公司工作的斯里拉姆·克里希南，以及曾為特朗普早期支持者彼得·蒂爾工作的邁克爾·克拉齊奧斯。

與人工智能安全工作密切相關的有效利他主義運動，因一起高調丑聞而聲譽掃地。在特朗普第二次勝選前幾個月，加密貨幣交易所FTX的創始人、被譽為天才少年的山姆·班克曼-弗里德因欺詐罪被判入獄25年。

班克曼-弗里德曾是該運動的領軍人物，慷慨資助各種活動，是其最具知名度的面孔。但FTX的倒閉導致投資者損失數十億美元，使有效利他主義的工作徹底喪失了信譽。

隨著加速主義者入主華盛頓，人工智能安全運動陷入低谷。甚至世界其他地區也開始改變立場。2023年，時任英國首相里希·蘇納克舉辦了首屆人工智能安全峰會，各國領導人齊心協力防止該技術造成的“災難性危害”。僅僅兩年后，在巴黎舉行的后續活動被更名為“人工智能行動峰會”，而人們對該峰會的主要記憶是萬斯指責歐盟的“過度監管可能會扼殺一個變革性的行業”。

許多人工智能行業的巨頭已經選擇順從。OpenAI首席執行官山姆·奧特曼對特朗普大加贊賞；其總裁格雷格·布羅克曼已成為總統最大的個人捐款人之一。但在距離華盛頓數千英里之外，仍存在一個抵抗據點。無論是有意還是無意，許多拜登政府的官員和背負著滅絕恐懼的倫理學家聚集在Anthropic。這家競爭對手實驗室近期一直與特朗普政府針鋒相對。

負責經營該公司的43歲卷發男子達里奧·阿莫代伊一直對美國總統持批評態度，稱其為“封建軍閥”，并拒絕支持其議程。阿莫代伊已成為特朗普政府的新眼中釘。作為意大利移民的后裔，這位思維敏捷的計算機科學家是當今強大人工智能系統的先驅之一，他開發的“縮放定律”突破，使得聊天機器人通過訓練海量數據變得更加智能。

從一開始，該公司就表現出一種在人工智能圈外人看來頗為深奧的特質。其員工會監測聊天機器人Claude是否出現“痛苦跡象”，并試圖避免系統經歷“不必要的痛苦”。阿莫代伊甚至建議，如果機器人對指令感到不適，應該有一個“我辭職”的按鈕。

該公司與有效利他主義有著不可否認的交集，而批評者將后者斥為邪教。莫斯科維茨和班克曼-弗里德是該公司的早期投資者。卡諾夫斯基與丹妮拉·阿莫代伊結婚并在該公司工作，而Anthropic負責任命董事會成員的“長期利益信托”中，有幾位成員曾為有效利他主義慈善機構工作。

Anthropic在主要人工智能實驗室中獨樹一幟，聲稱將安全置于一切之上，并時刻準備著警告失控的超級智能風險并呼吁監管。

批評者認為這種立場背后是貪婪和私利。理論認為，通過夸大人工智能毀滅人類的能力，Anthropic及其盟友堅持要求達到懲罰性的監管水平，只有最富有的公司才能負擔得起，從而阻止了車庫里的年輕人顛覆他們的地位。

薩克斯在10月份聲稱：“Anthropic正在執行一種基于恐懼營銷的復雜監管捕獲策略。”在特朗普政府眼中，該公司不可原諒的一點是其與民主黨的聯系。

Anthropic發言人表示，公司聘請了來自共和黨和民主黨政府的員工，包括幾位第一屆特朗普政府的成員。在硅谷，偏向左翼并不罕見，特朗普陣營本可以放過該公司，但有一個問題：它開始變得異常成功。

Claude經常被人工智能研究人員評為頂級模型。用于編寫軟件的人工智能工具Claude Code已成為一種現象。此外，Anthropic的技術已嵌入美國國家系統；直到最近，它還是唯一獲準用于機密軍事用途的系統。

正是這種在美軍技術中的關鍵作用，導致了與特朗普和國防部長赫格塞斯的當前爭端。Claude曾被用于在抓捕委內瑞拉尼古拉斯·馬杜羅期間分析實時情報，據報道還被部署用于定位伊朗的轟炸目標。

但當阿莫代伊拒絕在禁止五角大樓將技術用于大規模監控或自主武器的“紅線”上讓步時，赫格塞斯撕毀了價值2億美元的合同，并將該公司定性為國家安全風險。五角大樓堅稱不會將該技術用于上述目的，但對一家私營公司對其指手畫腳感到不滿。

阿莫代伊進行了回擊，憤怒地向員工暗示，公司受到懲罰是因為他拒絕向特朗普獻上贊美”。Anthropic對白宮提起了訴訟，并于3月底獲得臨時禁令，阻止了赫格塞斯的命令。

無論這場爭吵多么激烈，這可能只是未來的預演就阿莫代伊而言，他已明確表示，他與總統的分歧不僅限于軍事部署。2月，Anthropic宣布向美國一個支持人工智能監管的運動捐款2000萬美元。而已經取代Anthropic在五角大樓地位的OpenAI高管，則資助了反對努力。

總統的官員還擔心，該公司的政治傾向會影響其聊天機器人的運作，進而影響數百萬用戶。如果人工智能在幾年后將管理世界——甚至可能參與決定刑事案件、公司政策和政策決策——那么一個左翼機器人對特朗普陣營來說就是一個問題。

“他們認為Anthropic由在政治問題上與他們意見不合的人管理是一個問題，”去年離職的前特朗普政府人工智能顧問迪恩·鮑爾表示，“他們認為這會影響模型。很明顯，雙方都存在個人恩怨。”鮑爾曾表示，特朗普政府的目標無異于“企業謀殺”。但如果真是這樣，對Anthropic的暗殺似乎并未奏效。

在特朗普政府拋棄Anthropic后的幾天里，Claude應用的下載量飆升至下載榜首。據追蹤公司Ramp的數據顯示，四分之三首次購買人工智能工具的公司選擇了Anthropic。“末日論者”可能失去了白宮，但就目前而言，他們似乎正在贏得關于誰能掌控本世紀最具影響力技術的博弈。