![]()
《黑客帝國2》
如今,社交媒體已經能精準拿捏人的情緒,無論人說什么,手機都能給及時推送相關內容。我們正步入一個由算法編織的世界:它決定我們看見什么、信任誰、獲得何種機會,甚至如何被評價。在這個世界里,技術不再是中性的工具,而成為滲透權力、重塑自由、左右民主進程的政治實體。《算法的力量》正是這樣一部深刻剖析數字時代人類共同生存困境的思想力作。
英國學者杰米·薩斯坎德以敏銳的洞察力,將我們帶入一個名為“數字生活世界”的圖景。在這個世界里,技術以三種前所未有的方式行使權力:通過代碼強制執行規則的“數字武力”;通過海量數據監控實現的“全景審查”;以及通過過濾信息流塑造認知的“感知控制”。
本書的核心追問是:當代碼開始強制執行規則,算法能夠預測并干預人的行為,當虛擬與現實邊界日益模糊,我們如何保障自由、維持民主、實現正義?薩斯坎德并未陷入技術悲觀或盲目樂觀的極端,而是以政治學經典理論為基石,系統重構了權力、自由、民主、正義在數字語境下的內涵與可能。他提出了“哲學工程師”的呼喚——技術開發者必須具備政治與倫理自覺,而公眾也必須超越“用戶”角色,以公民身份參與技術治理的公共辯論。
書中對“算法專制”的預警、對“數字民主”可能的探索、對“技術失業”與“財富旋風”的分析,都極具現實意義。作者提醒我們,技術帶來的不僅是效率與便利,更是一場深刻的政治重組,而我們大多數人,尚未做好準備。
數字系統與算法不只是技術,而且是政治性的。本書以清晰有力的證據表明,新技術公司已經深度介入公共生活,在潛移默化之中施展其日漸增長的控制力,正在重新界定自由、平等、正義和民主的含義。作者呼吁人們,應當嚴肅對待這一正在迫近的危險政治前景,并及時行動予以應對。——劉擎
原價98,現僅58.8??
以下內容選自《算法的力量》
數字生活世界的感知控制
在不讓人民屈服于武力或審查的情況下,對人們施加權力的最后一種方式就是控制他們的所知、所想和準備就世界發表的看法。讓人不去做某件事的好辦法之一,就是從一開始就阻止他們做這件事的企圖,或者是讓他們確信,自己的欲望是錯誤的、不合法的、可恥的,甚至是瘋狂的。我把這種手段稱為“感知控制”。如果有可能創造一種對公開表達某種政治異見惡意滿滿的環境,那么人們就不太可能把這些不滿帶到臺前。 如果你知道批評某位政客會讓你泡著的酒吧陷入可怕的沉默,或者在社交媒體上引發一場“推特風暴”,對你進行人身攻擊,那么你在發表批評意見時恐怕就會三思而后行了。 那些尋求權力的人善于將針對對手的偏見煽動起來。將某些問題完全排除在政治議程之外,就是一種權力。有什么辦法比創造一種僅是批評一下現狀都是不可接受的環境還更有利于維持現狀呢?
另一種通過感知控制來行使權力的方法是,從一開始就防止人們在某些方面產生不滿。這可能只是一個說服的問題,但也可能是欺詐的結果,比如審查制度,它完全阻斷了人們對某些問題的關注。人們不可能對他們不知道的事情感到氣憤。更微妙的是,如果當權者能夠制造出一種廣泛的信念或傳統智慧,即認為符合其利益的事情也符合其他所有人的利益,那么就不需要通過強制或審查來確保獲得服從。
過濾是一種無比強大的感知控制手段。如果你控制了一個社會的信息流動,你就可以影響這個社會對是非、公不公平、干不干凈、得體不得體、真實還是虛假、已知還是未知的共同觀念。你可以告訴人們世界是什么樣,什么是重要的,以及他們應該如何去思考和感受。你可以說明人們應該如何判斷別人的行為。你可以喚起熱情和恐懼、沮喪和絕望。你可以塑造規范和習俗,定義什么可以做,什么不能做,哪些禮儀是可以接受的,什么行為是適當的或不適當的,以及共享的社會儀式,如問候、求愛、儀式、談話和抗議應該如何執行;什么可以說,什么被認為是不能說的;公認的政治和社會行為的界限是什么。如果我違反了一項規范或習俗,我可能不會像違反法律那樣受到武力制裁,但后果可能會更糟:嘲笑、羞恥、排斥、孤立,甚至放逐。正如曼紐爾·卡斯特所說 :“我們感受和思考的方式決定了我們行動的方式。”那些控制感知手段的人將更多地決定我們的感受和思考方式,進而決定我們的行動方式。
在未來,我們如何感知世界將越來越多地由數字系統向我們揭示或隱藏的東西所決定。當我們只體驗到世界的一小部分時,呈現在我們面前的那一部分將起到重大作用。它將決定我們的所知、所感和想要什么,從而影響我們去做什么。控制以上途徑就是政治的本質。
![]()
《1984》
新聞
第一個被數字技術控制的感知方式就是新聞。我們已經越來越依賴社交媒體來分類和呈現新聞。數字時代的新聞與現在不同,傳統上從事過濾工作的記者、作家、編輯和版主將逐漸被自動化系統取代。算法過濾器能夠以你最喜歡的形式給你推送特定的內容:給正在洗澡的你大聲朗讀(新聞),播放簡短的全息剪輯,在增強現實或虛擬現實中給新聞賦予生命,甚至是以優美的古文形式呈現出來。它還能滿足你了解適量細節和語境的需求。算法過濾的主要承諾是為我們每個人量身定制一個信息環境。如果你相信代碼的話。
新聞自動化的進程已然開啟,自動化的文章生成、自動化的評論審核,以及自動化的編輯來決定你看 / 不看什么新聞。就像亞馬遜和網飛推薦你應該消費的書籍和電視節目一樣,直到最近,據說你在 Facebook 新聞平臺上看到的新聞是由該平臺通過權衡約 10萬種因素決定的,包括點擊、點贊、分享、評論和發帖人的受歡迎程度,你與發帖人的特定關系,你一般對什么主題感興趣,以及該話題所呈現出的相關性和可信度。
搜索
當我們搜索信息時,過濾器就會起作用。搜索引擎決定哪些結果或答案應該優先響應我們的查詢。谷歌頁面排名方法的具體細節尚不可知 , 但一般認為它根據特定查詢的相關性和重要性來對站點進行排名,部分取決于某網頁被其他尋找相同信息的搜索者關聯起來并點擊的頻率。在谷歌搜索中排名靠前這件事的商業和政治重要性,怎么強調都不為過。90% 的點擊產生于搜索結果的第一頁。如果你或你的企業的排名太低,那么從信息的角度來說,你可能就是“不存在” 的。未來,搜索系統將能夠更好地解析用自然語言提出的問題,因此當你“看”某樣東西的時候,就不太像是在掃描一個龐大的數據庫,而更像是在咨詢一位無所不知的私人助理。這些神諭系統將決定什么是你需要知道的,什么是不應該知道的。就像新聞一樣,不能保證你得到的信息和我得到的信息是一樣的;它可以根據系統判定的與我們最相關的內容進行調整。
通信
第三,無論我們何時使用數字方式進行交流——在數字生活的世界中,這是十分常見的——
我們同時也就在這個系統中向“過濾”開放了。舉一個基本的例子,我們的電子郵件消息系統已經使用算法來 確定哪些是垃圾郵件,哪些不是(當得知某人的電子郵件系統認定你的郵件是“垃圾郵件”時,總會令人隱隱感到不安)。微信是世界上第四大聊天軟件,有近 9 億的月活躍用戶 ,它會根據關鍵詞進行審查。如果你發送的消息中包含禁用詞,遠程服務器將通過審查系統直接拒絕發送該消息(而你并沒有被告知)。這反映了一種更廣泛的趨勢,即通信技術受制于基于禁用詞的即時審查。以前,人類官員覺得實時審查談話內容只是個夢想。
我們的交流過程也能以更微妙的方式形塑。例如,蘋果公司決定從其設備上的信息應用程序中刪除槍支表情符號,這是一項有趣的努力,目的是監督人們的言論,進而監管他們的行為。
![]()
《竊聽風暴》
情緒
第四,數字技術將對我們的感受和認知產生日益明顯的影響。Facebook 最近進行的一項研究表明,數字技術可以通過過濾“積極”或“消極”的新聞內容來影響用戶的情緒(有爭議的是,這項研究是在受試者不知情或沒有征得其同意的情況下進行的)。 而這僅僅是個開始:越來越敏感的技術將能夠有效地感知和適應我們的情緒。有著能靈敏地回應我們需求的“面孔”和“眼睛”的人工智能“伙伴”充斥在我們周圍,它們或許還能以其他方式激發我們的情感,我們的感知方式將牢牢掌握在技術手中。我們也將越來越受制于技術規范和習俗的約束,它們鼓勵我們以特定的方式行事。在創作可能產生流量或得到“病毒式傳播”的內容方面,寫作者已經感受到了壓力。對年輕人來說,在 Twitter 上吐露自己的內心想法,在 Instagram 上展示自己的生活和身體,在 Facebook 上表達自己的好惡,都能獲得社會回報。
即時的感官體驗
最后,以前只有當我們試圖了解視線之外的事物時,外部過濾器才會真正發揮作用,但在未來,我們會越來越多地將我們的直接感官體驗提交給過濾器。我曾在第一章中解釋,增強現實技術通過計算機生成的輸入,如聲音、圖像或視頻來增強我們對物理世界的體驗。智能眼鏡(以及最終基于視網膜的增強現實技術)可能會為我們的所見提供一種視覺覆蓋;耳機也是如此。隨著技術越來越先進,即便你同時體驗現實與虛擬,想要區分它們也將變得越來越困難(或毫無結果)。如果增強現實或虛擬現實系統真的取代了“玻璃平板”計算模式,這種過濾形式的重要性就會上升。
我們看到了什么,什么被屏蔽了,哪些情感被激發,哪些沒有被觸動——我們將把這些決定托付給為我們過濾世界的設備。一個把無家可歸者從視野中抹除的世界,意味著在這個世界中,無家可歸者的政治重要性很低。你的智能視網膜根據你伴侶身體發出的信號向你提供她的實時信息——她的笑容真誠嗎?她緊張嗎?她對你來電嗎?由于這種技術的存在,你們喝酒約會的結果可能是天差地別的。控制我們感知的這種力量,將使試圖控制我們的人的武器庫如虎添翼。
以政治學家的眼光,帶你觀看數字生活的未來圖景
在算法支配的世界里,奪回屬于人的主動權
原價98,現僅58.8??
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.