“智駕”火爆，事故頻發，人們對自動駕駛技術的理解太淺薄

對于所謂的“智駕”，我們應該感到害怕。不是害怕機器太智能，而是害怕機器做出一些它們沒有能力做出的決策。

時針退回到2021年7月3日——馬斯克在推特上“懺悔”，他低估了開發完全自動駕駛汽車的難度，萬萬沒想到想要實現通用自動駕駛如此艱難。馬斯克感嘆道：

Nothing has more degrees of freedom than reality.

回到2025年的今天，近期智能駕駛相關交通事故頻發，愈發暴露了當前技術在識別、響應及人機協作上的局限性，以及大眾對自動駕駛的認知缺失。

車評人陳X駕駛勞斯萊斯閃靈時，因開啟輔助駕駛系統并對其能力邊界認知不足，在復雜路口引發事故……

小米SU7致命事故：一輛開啟導航輔助駕駛（NOA） 的小米SU7，在高速上對施工路障識別較晚，碰撞前約2秒才發出警報……

理想L9誤識別：一輛理想L9在高速行駛中，將廣告牌上的車輛圖片誤判為真車，導致車輛自動緊急剎車，造成后車追尾……

此外，特斯拉的“全自動駕駛”系統也因涉及多起闖紅燈等違規行為，正在美國接受大規模調查。

湛廬君翻到了馬斯克在10年前曾發過的一條微博：

However,when self-driving cars become safer than human-driven cars,the public may outlaw the latter.Hopefully not.

彼時，馬斯克還在擔心人類駕駛員與AI駕駛員相處的公平性，然而令人“欣慰”的是，今天的自動駕駛仍然需要人類駕駛員的高度參與。

如果有某家車企宣稱制造出了完全自動駕駛的汽車，它要么就是在布施一場騙局，要么就是將測試駕駛環境與真實的復雜駕駛環境混為一談。

就算是科學家、技術專家，都常常陷入虛幻進步坑：

誤以為AI解決了簡單問題，就相當于在難題上取得了進步；誤以為找到了在某些時候發揮作用的AI方案，只要再多一些數據，此方案就能在所有時刻發揮作用。事實并不見得如此。

點擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

我們離真正的自動駕駛還有多遠？

換句話說，先要脫離“人工”實現“智能”，還有哪些技術需要突破？從理想跨到現實，需要越過哪些鴻溝？一個完全自動駕駛時代，又意味著什么？你真的準備好將自己的生死大權“拱手相讓”給機器嗎？

消費者、商家、決策者……我們都是科技變革時代的參與者，什么是真實的？什么又是新科技發展中的幻象？

如果我們對AI技術的認知，只是由科幻電影和小說所塑造的話，我們就無從應對它即將對我們的生活和工作帶來的真實影響。

哪怕你僅僅是想要入手一臺人工智能汽車，又或者想要投資一家科技企業，請記住：植根于事實的認知永遠是更好的向導。

1.

幾年還是幾十年？

我們離真正的自動駕駛還有多遠

點擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

自動駕駛汽車還要多久才能普及？這取決于你怎么定義“自動駕駛”。美國國家公路交通安全管理局為車輛定義了6個自動等級：

0級：人類駕駛員執行全部的駕駛任務。

1級：車輛能夠偶爾通過控制方向盤或車速來對人類駕駛員提供支持，但不能同時進行。

2級：在某些情境下（通常是在高速公路上），車輛可以同時控制方向盤和車速。人類駕駛員必須時刻保持高度注意力，監控駕駛環境，并完成駕駛所需的其他行為，如變換車道、駛離高速公路、遇到紅綠燈時停車、為警車讓行等。

3級：在某些特定情境下車輛可以執行所有的駕駛行為，但是人類駕駛員必須隨時保持注意力，并隨時準備在必要時收回駕駛控制權。

4級：在特定情境下，車輛能夠完成所有的駕駛行為，人類不需要投入注意力。

5級：車輛可以在任何情境下完成所有駕駛行為。人類只是乘客，并且完全不需要參與駕駛。

來自圣塔菲研究所的梅拉尼·米歇爾教授在《AI3.0》一書中，闡釋了自動駕駛的分級，并指出了那個非常重要的限定條件：在特定的情境下。

她解釋道：我們無法為這個特定情境列出一個詳盡的清單，比如說，對于一輛4級自動駕駛汽車而言，盡管你能想象到許多有可能會對其造成挑戰的情境：惡劣的天氣、城市交通擁堵、在建筑區域內導航穿行，或是在沒有任何車道標志的、狹窄的雙向道路上行駛。

在梅拉尼寫作《AI3.0》一書時，路上行駛的大多數車輛都處于0級和1級之間，它們都有巡航控制系統，但沒有轉向或制動控制系統，其中，一些最近生產的帶有自適應巡航控制系統的車型，被認為達到了1級。僅有少量幾款車型目前處于2級和3級，例如，裝備了自動駕駛系統的特斯拉汽車，這些車輛的制造商和使用者仍在學習哪些情境屬于人類駕駛員接管的“特定情境”。

當然，也有一些試驗車輛可以在相當寬泛的情境下實現完全自動駕駛，但是它們仍然需要一個隨時待命、收到通知就能立刻接管車輛的人類“安全駕駛員”。目前為止，已經發生了好幾起自動駕駛汽車引發的致命事故，其中也包括一些試驗用車，這些事故都發生在應由人類駕駛員接管車輛，但卻沒被及時注意到的場景。

圖源：《速度與激情》系列

自動駕駛汽車行業迫切希望生產和銷售完全自動駕駛汽車，也就是5級自動駕駛汽車（特斯拉造車的終極目標與終極難點）。事實上，完全自動駕駛是我們消費者一直期盼的，也是自動駕駛汽車的相關各方所努力的方向。

對于自動駕駛汽車的未來，還存在一個尤為棘手的問題：汽車行業應該以實現部分自主駕駛——汽車在特定情境下執行所有駕駛行為，但仍然需要車內駕駛員保持注意力并在必要的時候接管為目標？還是應該以實現完全自主駕駛——人類能夠完全信任車輛的駕駛并且完全無需花費注意力作為唯一目標？

在梅拉尼看來，實現足夠可靠的、在幾乎所有情境下都能自主行駛的、完全自動駕駛汽車的技術還不存在，我們也很難預測這些難題什么時候才能被解決，專家們的預測為從幾年到幾十年不等。

2.

The AI Chasm

理想與現實的鴻溝

點擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

從業界到普通群眾，狹義AI短期成績上的癡迷，以及大數據帶來的唾手可得的“低垂的果實”，都將人們的注意力從長期的、更富有挑戰性的AI問題上轉移開來。這一問題，就是如何為機器賦予對世界產生更深刻理解的能力。

梅拉尼在《AI3.0》中寫道，“車輛的完全自主需要我在14章中描述過的一些核心直覺知識，包括：直覺物理學、直覺生物學，特別是直覺心理學”。

圖源：《速度與激情》系列

理想與現實之間，存在著一個被稱為AI鴻溝（The AI Chasm）的大坑，紐約大學教授蓋瑞·馬庫斯在《如何創造可信的AI》一書中告訴我們，以自動駕駛汽車為例，此大坑可以一分為三，每一個都需要我們坦誠面對。

第一個坑，我們稱之為“輕信坑”。

從表面上看，機器的行為常常與人類行為有相似之處，于是我們會不假思索地認為機器也擁有和人類一樣的某種思想機制，而事實并非如此。

2016年，一位電動汽車車主將自己的性命完全交托給自動巡航系統，據說，他是一邊看電影，一邊任由系統載著他在路上行駛。在安全駕駛數萬公里后，車輛遇到了預期之外的情境：一輛白色貨運卡車橫穿高速公路，小汽車直接鉆到貨車下面，車主當場斃命。

事故調查表明，車輛似乎向車主發出過幾次報警，請他將雙手放在方向盤上，但車主似乎心不在焉。

這場事故背后的道理十分清楚：某些東西在某些時刻貌似擁有智慧，并不意味著它的確如此，更不意味著它能像人類處理所有的情況。

第二個坑，我們稱之為“虛幻進步坑”。

誤以為AI解決了簡單問題，就相當于在難題上取得了進步。一句值得記住的格言是：對于一項復雜的技術項目，完成其前90%的工作往往需要花費10%的時間，而完成最后10%則需要花費90%的時間。

計算機安全專家已經表明：當今我們駕駛的許多非自動駕駛汽車正越來越多地受到軟件的控制，因而它們與無線網絡（包括藍牙、手機網絡和互聯網）的連接很容易受到黑客的攻擊。由于未來的自動駕駛汽車將完全受軟件控制，它們更有可能受到黑客的惡意攻擊。

圖源：《黑客帝國》

另一個進步難題是“人為干擾”。人們難免會想對完全自動駕駛汽車搞一些惡作劇，以探索它們的弱點，例如，在車前面來回走動假裝要過馬路，來阻止汽車前進。

第三個坑，就是我們所謂的“魯棒坑”。

正如杜克大學人類與自動化實驗室主任米西·卡明斯所言，問題不在于某輛自動駕駛汽車能在不出事故的情況下跑多遠，而在于汽車本身的適應能力有多強。

為了讓車輛在所有情況下都能可靠地駕駛，司機（可能是AI）需要了解共享道路的其他司機、騎自行車的人、行人和動物的動機、目標，甚至情感。打量一眼負責的情境并瞬間判斷誰有可能橫穿馬路、沖過街道去追趕公共汽車、不打信號燈就突然轉向，或者在人行橫道上停下來接打電話、整理書包……這是大多數人類司機的第二天性，但自動駕駛汽車還不具備這些。

從AI的角度來看，駕駛的大部分挑戰來自駕駛的開放性。好天氣下在高速公路上駕駛的情況，狹義AI還有能力處理，因為高速公路本身還算是個封閉系統，行人不能穿越，就連車輛的進入也有所限制。但是，在熙熙攘攘的城市道路上，任一給定時刻會出現什么狀況，有著無窮無盡的可能性。

蓋瑞·馬庫斯指出，將車輛在理想情況下的行駛表現與車輛在極端情況下的表現混為一談，是將整個行業置于生死邊緣的重大問題。行業目前的狀態，就是拿著數十億美元在無人駕駛汽車的技術研發上打水漂，因為這條老路的魯棒性差得太遠。

3.

個人公共交通

道德、倫理，終極世界

點擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

對于更多普通人來說，完全自動駕駛當然也會帶來“友善”的改變。人工智能專家杰瑞·卡普蘭就在《人工智能時代》一書中告訴我們，相關研究表明，實現自動駕駛后的交通事故將會減少90%。相應的還有交警的開支、損壞的車輛、車輛的維修以及交通法庭。

汽車保險將成過去，我們也不需要“考駕駛證”這一環節了。戴曼迪斯在《未來呼嘯而來》一書中，也有相同的指認。

圖源：《變形金剛4》

自動駕駛技術將會革命性地改變我們對交通的理解，同時也會對社會造成強烈的影響，然而在杰瑞·卡普蘭看來，對于完全自動駕駛汽車來說，一個更好的描述應該是“個人公共交通”。他在書中這樣描述，“一旦這種科技變得隨處可見，也就沒有什么必要非要擁有一輛車了。

當你需要車的時候，你只需要召喚一輛，就像今天的出租車一樣，只不過到時車會出現得更可靠、更及時。當你下車后，車會靜靜地跑到最近的集結待命，等候下一位乘客的召喚。幾十年后，你不會再去考慮買一輛屬于自己的車，就像今天你不會想買一節私人火車車廂一樣。”

點擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

我們假使馬斯克期望的完全自動駕駛可以投入使用，但請你想象一下，如果你心臟病發作，而你的自動駕駛汽車卻拒絕加速乃至超速把你送到醫院，你該怎么辦？明天，你召喚的自動駕駛出租車可能決定不載你了，因為你看起來喝醉了。等我們發現這些問題時，可能為時已晚。這就是未來的先兆，也就是我們想要的完全自動駕駛的世界。

我們把權力交給機器后，也就把重要的道德決定、甚至個人決定交給了它們。以防抱死剎車系統（ABS）為例。現在的情境是，你的車仍舊聽你的，除非你踩剎車踩得太重。如果我們把對剎車的控制完全交出去，就是把做出生死攸關的道德決定的能力委托出去。

最開始，智能汽車調整的可能僅僅是避免擁堵的行車路線，但是最終，在完全自動駕駛時代，這些系統可能會控制你生活的地點、你學習的內容，甚至是你約會的對象。

就像你的智能手機中的芯片越來越小一樣，始終都好像是它們在為我們的福祉做貢獻，直到它們開始介入我們的生活，防止我們傷害自己。那時我們才會明白真相——誰是圈養者，誰又是被圈養者。

點擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

不是就業問題、不是技術壁壘、不是不明就里的指責，對于“完全自動駕駛”我們最應該擔憂的問題是：

我們在沒有充分意識到人工智能的局限性和脆弱性時，就賦予了太多的自主權；我們傾向于擬人化人工智能系統，我們把人類的品質灌輸給這些系統，卻又高估了這些系統可以被完全信任的程度。

10年？50年？100年？人類終歸會迎來完全自動駕駛時代，通用的、人類水平的人工智能或許就會出現。它們能感受到情緒嗎？它們具有生存的本能和對死亡的恐懼嗎？它們需要意識嗎？

梅拉尼說，我們應該感到害怕，不是害怕機器太智能，而是害怕機器做出一些它們沒有能力做出的決策。

圖源：《復仇者聯盟2：奧創紀元》

人工智能對我們所有人的影響都將持續深化。

盡可能閱讀人工智能的好書。它們都在幫助我們成為一個有思想的人，能更好地去了解人工智能的現狀，包括尚未解決的問題、技術的潛在風險和益處，以及它所引出的關于理解人類自身職能的科學和哲學問題。

人人都想要那輛完全不需要費心操控的AI汽車，不管是在城市、在鄉村，是在山路還是高速上行駛，都能做一個自在愜意的乘客。

為了實現那一刻，請你認真把握方向盤。

全網首發！下單即現貨

限量5折，到手89.9還贈獨家精美周邊

現在入手，可享限量款金印版

本期策劃：Burt

編輯：蘆丁

CHEERS CHEERS CHEERS

BD@cheerspublishing.com,

拜托點下“在看”