波音737max客機(jī)墜毀事件給人們啟示，盡管自動化系統(tǒng)給人們帶來便利，但是過度依賴系統(tǒng)可能會產(chǎn)生嚴(yán)重的后果。

最近，我問我的同事他們是否曾被自動駕駛功能所嚇到，有人和我說英菲尼迪Q50混合動力車的自動制動令人十分不快，因為當(dāng)她在緊急轉(zhuǎn)彎前，自動制動會讓她的車突然放慢速度，結(jié)果她就被后方的車追尾了；另一個人則非常煩他的現(xiàn)代汽車的嘟嘟聲，因為他偏離附近的車道時它就會發(fā)出警報；三分之一的父親常常用他家里的鑰匙扣啟動他的豐田凱美瑞，開車去上班，當(dāng)他開車回家時他發(fā)現(xiàn)無法啟動汽車。根據(jù)愛荷華大學(xué)全國高級駕駛模擬器主任 Daniel McGehee 的調(diào)查，大約40％的美國司機(jī)表示ADAS經(jīng)常做出令超出他們預(yù)期的行為。

近四十年來一直與自動駕駛軟件密切合作的飛機(jī)駕駛員對此類事件總結(jié)為8個字：自動化帶來的意外（autonomous surprises）。

其中一個特別悲慘的例子大約發(fā)生在10月份，當(dāng)時獅航公司737 Max在印度尼西亞海岸墜毀，造成189人死亡。墜機(jī)事件仍在調(diào)查之中，但很快就有人猜測是事故發(fā)生的原因來自于波音導(dǎo)航軟件MCAS，該軟件設(shè)計用于將飛機(jī)指向下方。作為該型號重型前置發(fā)動機(jī)的修正裝置，MCAS故障可能導(dǎo)致飛機(jī)急速俯沖。

然后，就在上周日，一架埃塞俄比亞航空公司的737 Max從亞的斯亞貝巴起飛后墜毀，機(jī)上人員全部遇難。再一次，所有的目光都集中在MCAS上。周二，達(dá)拉斯晨報登載了一系列關(guān)于飛機(jī)自動駕駛功能的飛行員投訴。歐盟、中國和其他公司已將所有737 Max飛機(jī)停飛以應(yīng)對墜機(jī)事故，波音公司表示將更新該飛機(jī)的飛行控制軟件。

波音公司在2017年推出的所有新型號737上安裝了MCAS，但是他們認(rèn)為這些變化非常小，無需重新培訓(xùn)飛行員，甚至不需要對新軟件提出警告 - 包括新的覆蓋控制，并且該觀點(diǎn)被美國和歐盟監(jiān)管機(jī)構(gòu)所支持。

墜機(jī)事件提醒人們，即使商業(yè)航班變得高度自動化，飛行員仍然需要很大程度上了解飛行飛機(jī)的導(dǎo)航系統(tǒng)，并知道如何以及何時應(yīng)該覆蓋控制飛機(jī)。737 Max的墜毀可能是對此的最好證明。一般來說，這種人機(jī)生態(tài)使得航空旅行非常安全：美國十年來沒有一家航空公司消亡。

但美國宇航局艾姆斯研究中心的飛行員和研究心理學(xué)家史蒂夫卡斯納說，自動化并沒有讓飛行員的工作變得更容易：“你認(rèn)為這會使飛行員變成一個愚蠢的角色，但事實上是，你必須比以往任何時候都更加了解才行。”

卡斯納是許多飛行員和分析師之一，他覺得30多年前在飛機(jī)上引入自動化與今天的自動駕駛汽車非常類似，因為司機(jī)們都準(zhǔn)備把駕駛負(fù)擔(dān)交給自動駕駛。

“歷史總是驚人的相似，這一切就像1983年一樣，”卡斯納說，在大多數(shù)航空公司將自動化成功部署之后，他認(rèn)為汽車制造商可能會過度使用不熟悉的技術(shù)解放人們的雙手，“我非常擔(dān)心即使航空已經(jīng)向我們展示了如何做到這一點(diǎn)，我們也可能在汽車方面犯很大的錯誤，在車?yán)锏溶囎约旱竭_(dá)目的地可不是我們的強(qiáng)項。”

卡斯納與認(rèn)知心理學(xué)家埃德溫哈欽斯一起撰寫了一篇新論文“ 我們需要讓司機(jī)了解什么？制定部分自動駕駛汽車的駕駛員最低培訓(xùn)標(biāo)準(zhǔn)”，他們的一個主要觀點(diǎn)是，如果沒有了解系統(tǒng)運(yùn)行方式的飛行員，自動化就不會像現(xiàn)在這樣安全。

“無論737 Max墜機(jī)事件的調(diào)查出來的結(jié)果如何，人機(jī)界面都將是一個重要的因素，”前戰(zhàn)斗機(jī)飛行員兼杜克大學(xué)人類和自動化實驗室負(fù)責(zé)人米西卡明思說。多年來，她一直擔(dān)心自動駕駛汽車的問題，駕駛員不僅會被自動駕駛技術(shù)分散注意力，不了解其能力而忽視其警報，它也逐漸削弱了他們的駕駛技能，使他們無法在恰當(dāng)?shù)臅r機(jī)做出正確的操作。（使用自動化的飛行員很大程度上保留了他們的駕駛技能，但他們的決策技能受到了影響。）

“他們讓人們陷入虛假的安全感，這是我們在航空領(lǐng)域?qū)W到的一個教訓(xùn)，”卡明思解釋道，“只要是活人一般都可以拿到駕駛證，你可以強(qiáng)制人們接受某種標(biāo)準(zhǔn)化培訓(xùn)，但其實并不會不會這樣做，因為大家都很懶。這就是我反對Level 3級自動駕駛的原因，你甚至不能保證所有人都接受被美國聯(lián)邦航空局的年度檢查，那你怎么能指望機(jī)器永不出問題呢？”

這就是在空中和汽車之間的重大差異，飛行比走路更安全。對于司機(jī)和行人來說，汽車出行仍然是非常危險的，因為對汽車危險的界定條件實在是太低了，比如，在密閉的車庫啟動汽車，因為一氧化碳中毒死了二十幾個人，那不是將車召回的理由；同樣的，兩名車主在“自動駕駛”功能開啟時撞上一輛卡車當(dāng)場車毀人亡也不是召回所有特斯拉的理由。

McGehee表示，2019年的大多數(shù)汽車型號中廣泛引入的自動駕駛技術(shù)比如緊急制動，車道變換警報，自適應(yīng)巡航控制等等，可能會減少車禍的總體數(shù)量。（聯(lián)邦法規(guī)不要求將關(guān)于高級駕駛輔助技術(shù)的數(shù)據(jù)包含在碰撞記錄中，因此很難確定它的作用。）這些數(shù)據(jù)可能存在欺騙性，但也許你必須打破這些誤解，才能創(chuàng)造出一個自動駕駛的烏托邦。

大多數(shù)自動駕駛汽車學(xué)者都說，如果自動駕駛研究的最終結(jié)果是完全不需要人類控制（正如谷歌的Waymo所做的那樣），那將非常有利于安全。隨著人類適應(yīng)各種技術(shù)，這將是一個艱難的過渡時期。這些自動駕駛技術(shù)很少是完美的，有些需要監(jiān)督，有些則需要訓(xùn)練。

“機(jī)器人為人類提供了出色的備用驅(qū)動力，人類為機(jī)器人制造了可怕的備用驅(qū)動器，“卡內(nèi)基梅隆的自動駕駛專家Costa Samaras說。但是，每年有成千上萬的人死于酒后駕車，還有數(shù)千人死于沒有系安全帶，因此很難看到駕駛員考試將學(xué)習(xí)自動化技術(shù)作為首要任務(wù)。

在某種程度上，這也是非常矛盾的，比如，克萊斯勒于1958年推出了“自動駕駛儀”，這項技術(shù)很快將作為“無腳駕駛”廣告給女司機(jī)。今天我們知道它是巡航控制，它的作用是什么呢？只需按一下按鈕，你的車就可以以70英里/小時行駛。巡航控制聽起來就像一個死亡陷阱，實際上，很難想象如果沒有了這個技術(shù)，應(yīng)該如何去開長途高速公路。

但是過了六十年之后，還會有人知道這個技術(shù)嗎？