美國國家運(yùn)輸安全委員會(huì)（National TransportaTIon Safety Board，NTSB）今天公布了它對(duì)一起涉及Uber測(cè)試機(jī)器人車和Elaine Herzberg的致命車禍的調(diào)查結(jié)果。不出所料，他們把問題歸咎于Uber的安全文化，安全駕駛員在駕駛途中觀看流媒體視頻節(jié)目，以及在一定程度上歸咎于行人的狀態(tài)受損。

　　最值得注意的是，之前有報(bào)道稱，Uber系統(tǒng)無法識(shí)別人行橫道外的行人，這一報(bào)道需要進(jìn)行更正。事實(shí)并非如此，盡管這個(gè)問題存在缺陷，但它們?cè)谶@起事故中沒有造成任何不良影響。

　　NTSB主席Robert Sumwalt表示：“自動(dòng)駕駛系統(tǒng)以及車輛駕駛員的不當(dāng)行為都是更深層次問題的征兆，這些問題表露出來的是Uber ATG時(shí)代存在的無效安全文化?！?/p>

　　外媒在這個(gè)報(bào)告發(fā)表之前也作出了一系列新聞報(bào)道，聽證會(huì)還透露了一些書面報(bào)告中沒有強(qiáng)調(diào)的細(xì)節(jié)。

　　可能事故原因報(bào)告

　　國家交通安全委員會(huì)對(duì)可能原因的最終裁決將主要責(zé)任歸咎于安全駕駛員的疏忽。

　　導(dǎo)致Uber缺乏安全文化的原因在于：對(duì)安全驅(qū)動(dòng)程序的監(jiān)控不力以及缺乏應(yīng)對(duì)自動(dòng)化自滿的對(duì)策，此外他們還將第三個(gè)原因歸咎于行人過馬路的障礙，以及亞利桑那州和聯(lián)邦政府在監(jiān)管方面的失責(zé)。

　　最值得注意的是，他們并沒有將技術(shù)故障歸咎于崩潰的原因。這是一個(gè)正確的原因裁定——盡管所有經(jīng)過測(cè)試的車輛通常都比Uber更好，但它們的缺陷會(huì)導(dǎo)致安全駕駛者疏忽大意，而將這些缺陷歸咎于根本就是要以這種方式進(jìn)行的測(cè)試。

　　人為過失

　　報(bào)告指出，當(dāng)涉及到人為過失時(shí)，Herzberg的血液中有“高濃度的甲基苯丙胺”，超過藥物劑量的10倍，這會(huì)改變她的感知能力。她體內(nèi)還有大麻殘留。直到撞車前一秒，她才向右看向迎面駛來的車輛。

　　也有證據(jù)表明，安全駕駛員確實(shí)拿出了手機(jī)，并在上面播放電視節(jié)目，在駕駛過程中有34%的時(shí)間低頭看手機(jī)，在碰撞前6秒到1秒有整整5秒鐘的“一瞥”。

　　雖然Uber錄制了安全駕駛員的視頻，但他們從未審查過該司機(jī)的視頻，以發(fā)現(xiàn)她違反了禁止使用手機(jī)的政策。該駕駛員沒有受到訓(xùn)斥，還在這段路上開了73次車。

　　雖然每輛車?yán)锒加幸慌_(tái)供操作人員使用的小型平板電腦，但操作非常簡單，就像其他導(dǎo)航電腦一樣，只顯示導(dǎo)航路線，而且輸入源很少。

　　美國國家運(yùn)輸安全委員會(huì)沒有將這些干擾歸因于這款平板電腦，Uber稱其設(shè)計(jì)的平板電腦用戶體驗(yàn)符合NHTSA的車內(nèi)用戶體驗(yàn)指南。也有一些團(tuán)隊(duì)在報(bào)告異常情況時(shí)使用語音系統(tǒng)而不是觸摸系統(tǒng)以避免分心。

　　機(jī)器過失

　　更多關(guān)于Uber系統(tǒng)如何處理行人的細(xì)節(jié)也被披露。早期的報(bào)告（包括我自己的一些報(bào)告）指出，該系統(tǒng)無法將人行橫道外的障礙物歸類為行人。這是不正確的，盡管真相更令人困惑。它從來沒有把她歸類為行人，可能是因?yàn)樗窃隍T自行車。讓作者感到困惑的是，在系統(tǒng)的目標(biāo)分配模塊中提到了潛在的失敗，但實(shí)際上并沒有發(fā)生。

　　當(dāng)一個(gè)機(jī)器人汽車系統(tǒng)識(shí)別出一個(gè)障礙物時(shí)，它會(huì)試圖預(yù)測(cè)障礙物可能移動(dòng)的方向，并以此估計(jì)出障礙物的“目標(biāo)”。例如，行人在人行橫道上可能有過馬路的目標(biāo)，車道上的汽車或自行車很可能會(huì)繼續(xù)沿著那條車道行駛，當(dāng)然也有可能會(huì)換車道。

　　Uber的一個(gè)缺陷是，它的系統(tǒng)不會(huì)將“過馬路”作為目標(biāo)分配給不在人行橫道上的行人。如果他們發(fā)現(xiàn)有一個(gè)行人，那么他們并不會(huì)認(rèn)為她是在過馬路。

　　相反，她被歸類為車輛、騎自行車的人或未知的障礙物。這些對(duì)象的目標(biāo)猜測(cè)是不同的，并且在許多情況下基于對(duì)象過去的移動(dòng)歷史，這就是為什么在重新分類后忘記過去的歷史是真正的技術(shù)錯(cuò)誤。每次它對(duì)她進(jìn)行重新分類時(shí)，都必須在沒有過去記錄的情況下預(yù)測(cè)她的動(dòng)作，因此它無法理解，不管她是誰，她正在過馬路，而且準(zhǔn)備進(jìn)入他們的車道。

　　缺少“對(duì)象持久性”仍然是比分類錯(cuò)誤更大的錯(cuò)誤。分類錯(cuò)誤在機(jī)器人汽車系統(tǒng)中經(jīng)常發(fā)生，但是由于系統(tǒng)在不知道它是什么的情況下跟蹤和目標(biāo)移動(dòng)，這應(yīng)該可以減輕分類錯(cuò)誤。Uber沒有做到這一點(diǎn)。

　　更多的細(xì)節(jié)透露了沃爾沃標(biāo)準(zhǔn)自動(dòng)緊急制動(dòng)系統(tǒng)的禁用與SUV。沃爾沃系統(tǒng)有自己的雷達(dá)，與Uber的雷達(dá)頻率相同，因此不能同時(shí)使用。后來，他們重新調(diào)整了其中一個(gè)雷達(dá)，使兩個(gè)系統(tǒng)都能工作。

　　自動(dòng)化自滿

　　人們關(guān)注的焦點(diǎn)是人類在監(jiān)控自動(dòng)化系統(tǒng)方面的表現(xiàn)，以及人們變得自滿和憊懶的趨勢(shì)。這是具有一定自動(dòng)化程度的交通方式中的一個(gè)共同因素。

　　Uber從未審查過安全司機(jī)的視頻，也很少查看其他人的視頻，但現(xiàn)在有第三方對(duì)安全駕駛員進(jìn)行抽查，以發(fā)現(xiàn)類似的問題。

　　現(xiàn)在，Uber和其他公司使用自動(dòng)系統(tǒng)來跟蹤司機(jī)的視線，以確保他們的眼睛一直盯在路上，甚至在他們太過遠(yuǎn)離道路時(shí)保持警惕。Uber也已經(jīng)重新啟用了兩名安全駕駛員設(shè)置。

　　一個(gè)有趣的數(shù)據(jù)顯示，Uber在Tempe有40輛測(cè)試車，254名操作人員。這使得他們想換成一個(gè)安全駕駛員而不是兩個(gè)安全駕駛員的想法令人困惑，他們似乎有足夠多的人手在每輛車?yán)锓艃蓚€(gè)人。

　　雖然一般來說兩個(gè)安全駕駛員比一個(gè)安全駕駛員好，可以防止這類事故的發(fā)生，但我現(xiàn)在認(rèn)為，對(duì)一個(gè)安全駕駛員進(jìn)行計(jì)算機(jī)監(jiān)控實(shí)際上可能已經(jīng)足夠了。

　　特斯拉自動(dòng)駕駛儀的駕駛員沒有接受過培訓(xùn)，通常是獨(dú)自駕駛，他們的記錄表明，讓一個(gè)人來監(jiān)督一個(gè)像樣的自動(dòng)系統(tǒng)，會(huì)產(chǎn)生足夠的安全記錄。一個(gè)受過訓(xùn)練的安全駕駛員，加上自動(dòng)監(jiān)控，應(yīng)該會(huì)做得更好。

　　政策問題

　　正如之前報(bào)道的那樣，Uber ATG糟糕的安全文化——或者在某些情況下，缺乏安全文化——招致了很多批評(píng)。根據(jù)Robert Fox的報(bào)告，他們沒有一個(gè)適當(dāng)?shù)目蚣軄斫档惋L(fēng)險(xiǎn)，他們有糟糕的政策和程序，以及對(duì)汽車運(yùn)營商的糟糕監(jiān)督。據(jù)報(bào)道，Uber已經(jīng)解決了很多這樣的問題，目前只做了非常有限的測(cè)試——僅僅是繞著總部一英里的環(huán)路，時(shí)速限制在25英里。

　　NTSB的Enzar Becic報(bào)告了目前適用于測(cè)試機(jī)器人汽車公司的非常基本的規(guī)則，特別是在亞利桑那州，它對(duì)測(cè)試安全駕駛員的團(tuán)隊(duì)沒有要求。國家公路交通安全管理局的規(guī)定要求進(jìn)行選擇性的安全評(píng)估，但只有16家公司提交了一份評(píng)估報(bào)告，但有超過64家公司在加州注冊(cè)。

　　該公司董事長Sumwalt稱贊了Uber在他們的調(diào)查中提供的合作，并對(duì)特斯拉未能提供幫助、被迫退出他們的一項(xiàng)調(diào)查的方式進(jìn)行了一些有力的抨擊。Sumwalt說，他喜歡Uber的首席執(zhí)行官“沒有掛斷我的電話”，這強(qiáng)烈地暗示Elon Musk可能在談話中掛斷了他的電話。

　　更多關(guān)于技術(shù)故障的說明

　　在我之前關(guān)于Uber死亡的報(bào)告中，我對(duì)兩個(gè)新的技術(shù)細(xì)節(jié)進(jìn)行了大量討論，即Uber系統(tǒng)的配置無法識(shí)別人行橫道外道路中間的行人。更重要的是，他們的目標(biāo)跟蹤系統(tǒng)有一個(gè)缺陷，每次重新分類一個(gè)目標(biāo)時(shí)，它都會(huì)忘記過去的經(jīng)驗(yàn)教訓(xùn)。許多其他媒體也對(duì)這些問題進(jìn)行了報(bào)道，其中大多數(shù)都把重點(diǎn)放在行人身份識(shí)別問題上。

　　盡管我已經(jīng)非常清楚地表明，這些技術(shù)問題雖然是系統(tǒng)設(shè)計(jì)和編碼糟糕的標(biāo)志，但并不是事故的主要原因，但讀者并不會(huì)這么想。因此，有必要重申的是，據(jù)我所知，所有的機(jī)器人車隊(duì)都存在這樣的問題，即系統(tǒng)不能正確地在其視圖中對(duì)事物進(jìn)行分類，這使得安全駕駛員必須不時(shí)地接手以防止事故的發(fā)生。

　　對(duì)于全新的項(xiàng)目，這可能是一個(gè)非常頻繁的事件，只要有一個(gè)訓(xùn)練有素的和細(xì)心的安全駕駛員在那里，這就是沒有問題的。

　　雖然我們可以也應(yīng)該對(duì)Uber軟件的低質(zhì)量提出批評(píng)，但我懷疑任何一個(gè)項(xiàng)目都經(jīng)歷過一個(gè)非常早期的階段，在這個(gè)階段，他們的系統(tǒng)不成熟，容易出現(xiàn)這樣的問題，而這些問題是由安全駕駛員正確處理的。

　　如果這些車隊(duì)中的任何一輛車有一名安全駕駛員坐在那里看視頻，就像這里所說的，這些車可能會(huì)發(fā)生事故，如果情況不對(duì)，可能會(huì)致命。

　　雖然這并不是優(yōu)步的借口，但他們也確實(shí)運(yùn)氣不太好。一般情況下，行人在人行橫道外的高速公路上過馬路時(shí)，會(huì)盡量小心謹(jǐn)慎，我們從小就被教導(dǎo)要“過馬路前向兩邊看”。

　　從表面上看，車禍發(fā)生在一個(gè)星期天的深夜，發(fā)生在一條幾乎空無一人的道路上，正是這樣一種情況：人們通常會(huì)提前很好地聽到任何駛近的汽車，并定期檢查右側(cè)是否有迎面而來的車輛，這是非常明顯的，因?yàn)樗那盁簟词乖谥苓叺囊曇爸幸埠苊黠@。

　　Herzberg在撞擊前的一秒鐘左右，斜著穿過飛機(jī)。美國國家運(yùn)輸安全委員會(huì)的調(diào)查人員將此歸因于她體內(nèi)的冰毒。他們不知道她血液中的濃度是上升，由于最近服用了大劑量藥物，改變了感知，還是下降從而引起不尋常的情緒。

　　據(jù)報(bào)道，這個(gè)地點(diǎn)的行人穿過人行橫道很少見，盡管由于音樂會(huì)的原因，那天晚上行人更多了些。但也沒有在這個(gè)地點(diǎn)發(fā)生的另一起行人事故的記錄。

　　當(dāng)然，這并不意味著無人駕駛汽車和安全駕駛員不必對(duì)人行橫道外的行人視而不見。盡管大多數(shù)行人都比較謹(jǐn)慎，但還是有這種情況存在。事實(shí)上，亞利桑那州71%的行人撞擊事件發(fā)生在十字路口之外。

　　那攝像頭呢？

　　關(guān)于計(jì)算機(jī)視覺和攝像頭在Uber致命事件中的作用，人們?nèi)杂幸蓡枴Ｃ绹鴩疫\(yùn)輸安全委員會(huì)的報(bào)告說，除了注意到在這次事故中不會(huì)起作用的近距離攝像頭沒有使用外，幾乎沒有任何關(guān)于車內(nèi)攝像頭系統(tǒng)的內(nèi)容。

　　大多數(shù)自動(dòng)駕駛汽車設(shè)計(jì)使用3種不同的系統(tǒng)來檢測(cè)前方道路上的行人。激光雷達(dá)是最可靠的，并被所有主要的自動(dòng)駕駛汽車公司所使用，除了特斯拉。雷達(dá)也很好，但對(duì)一個(gè)沒有朝你或遠(yuǎn)離你的行人來說，效果不太好。

　　在這種情況下，Herzberg穿過街道，因此垂直于汽車移動(dòng)。雷達(dá)仍能看到她，但提供的信息少得多。因?yàn)閁ber的軟件不斷對(duì)她進(jìn)行重新分類，忘記了之前學(xué)過的東西，雷達(dá)也不擅長提供詳細(xì)的水平位置，所以它對(duì)于注意到她正在橫穿馬路并不那么有用。

　　攝像透應(yīng)該在這里起到有用的作用。雖然計(jì)算機(jī)視覺不具備你從激光雷達(dá)和雷達(dá)獲得的100%確定距離的知識(shí)，但它可以很好地識(shí)別出某物是什么，所有的團(tuán)隊(duì)都訓(xùn)練他們的系統(tǒng)識(shí)別行人，有人認(rèn)為是騎自行車的人。

　　Uber的系統(tǒng)從來沒有這么做過。但是，雖然激光雷達(dá)很難識(shí)別像行人騎自行車這樣的物體，特別是在遠(yuǎn)距離下——在你靠近之前，它只是一個(gè)分散的點(diǎn)團(tuán)——這是攝像頭應(yīng)該更好地拍攝的東西。

　　然而，美國國家運(yùn)輸安全委員會(huì)的報(bào)告對(duì)視覺感知系統(tǒng)所見只字不提。

　　是它嗎？它只是沒有很好的功能嗎？像所有其他的技術(shù)問題一樣，它們排在安全駕駛問題之后，但是對(duì)于我們這些希望了解程序員會(huì)犯什么樣的錯(cuò)誤以及如何避免這些錯(cuò)誤的人來說，它們?nèi)匀缓苡腥ぁ?/p>

　　視覺系統(tǒng)的一個(gè)問題是如何在夜間工作。普通攝像頭無法同時(shí)獲得明亮物體，如汽車前大燈、路燈和前大燈照明的物體，和陰影中物體的良好圖像。Herzberg在燈光下進(jìn)進(jìn)出出，而常規(guī)的行車記錄儀視頻顯示，普通攝像頭的性能很差。

　　這就是為什么機(jī)器人汽車團(tuán)隊(duì)一直在積極開發(fā)“高動(dòng)態(tài)范圍”相機(jī)方法，以提高視覺效果。一種方法是使用兩個(gè)或更多的攝像頭，每個(gè)攝像頭設(shè)置在不同的曝光水平，以獲得陰影和良好照明區(qū)域的良好圖像。一種更便宜的方法是讓一臺(tái)攝像頭在每隔一幀的明亮和黑暗曝光之間切換。這些技術(shù)應(yīng)該能讓Uber車上的許多攝像頭拍出道路和Herzberg的良好圖像，即使是在晚上。

　　董事會(huì)成員Jennifer Homendy對(duì)缺乏關(guān)于測(cè)試的法規(guī)提出了強(qiáng)烈的批評(píng)，她認(rèn)為應(yīng)該有更多的聯(lián)邦和州法規(guī)來對(duì)這些車輛進(jìn)行測(cè)試。她對(duì)國家公路交通安全管理局的規(guī)定表示擔(dān)憂，這些規(guī)定目前相當(dāng)少。

　　它們是最小的，因?yàn)閲夜方煌ò踩芾砭趾透髦菀呀?jīng)意識(shí)到，他們還不具備管理仍在發(fā)展和不斷變化的技術(shù)的技能。盡管如此，NTSB認(rèn)為NHTSA應(yīng)該強(qiáng)制提交安全計(jì)劃報(bào)告。

　　報(bào)告結(jié)論

　　以下是最終調(diào)查結(jié)果，來自最終報(bào)告。

　　1、A.駕駛執(zhí)照、自動(dòng)駕駛系統(tǒng)操作經(jīng)驗(yàn)或知識(shí)；B.駕駛執(zhí)照、自動(dòng)駕駛系統(tǒng)操作經(jīng)驗(yàn)或知識(shí)；C.車輛的機(jī)械狀況。

　　2、對(duì)車禍?zhǔn)鹿实木o急反應(yīng)是及時(shí)和充分的。

　　3、該行人在夜間面對(duì)駛近的車輛前以及沒有人行橫道的地方過馬路時(shí)的不安全行為違反了亞利桑那州的法規(guī)，這可能是由于吸毒導(dǎo)致的感知和判斷能力下降。

　　4、Uber Advanced Technologies Group沒有充分管理其自動(dòng)駕駛系統(tǒng)的功能限制所帶來的預(yù)期安全風(fēng)險(xiǎn)，包括該系統(tǒng)在此次撞車事故中無法正確分類和預(yù)測(cè)行人過馬路中間街區(qū)的路徑。

　　5、自動(dòng)駕駛系統(tǒng)的設(shè)計(jì)中，只有在不可避免的碰撞的緊急情況下才會(huì)阻止剎車，這增加了在公共道路上測(cè)試自動(dòng)駕駛系統(tǒng)的安全風(fēng)險(xiǎn)。

　　6、因?yàn)閁ber Advanced Technologies Group的自動(dòng)駕駛系統(tǒng)正在開發(fā)中，存在相關(guān)的限制和故障預(yù)期，這些限制在多大程度上構(gòu)成了安全風(fēng)險(xiǎn)，取決于安全冗余和三種旨在降低與在公共道路上測(cè)試自動(dòng)駕駛系統(tǒng)相關(guān)的安全風(fēng)險(xiǎn)的緩解策略。

　　7、Uber Advanced Technologies Group在不完全更換其功能的情況下停用了沃爾沃前方碰撞警告和自動(dòng)緊急制動(dòng)系統(tǒng)，減少了一層安全冗余，增加了在公共道路上測(cè)試自動(dòng)駕駛系統(tǒng)的風(fēng)險(xiǎn)。

　　8、Uber Advanced Technologies Group在事故后做出了改變，如在自動(dòng)駕駛系統(tǒng)（ADS）運(yùn)行期間提供沃爾沃的前方碰撞警告和自動(dòng)緊急制動(dòng)，增加了一層安全冗余，降低了在公共道路上測(cè)試ADS的安全風(fēng)險(xiǎn)。

　　9、如果車輛安全駕駛員注意到了，她很可能有足夠的時(shí)間發(fā)現(xiàn)并對(duì)過路行人做出反應(yīng)，以避免撞車或減輕影響。

　　10、車輛安全駕駛員長時(shí)間的視覺分散，是典型的自動(dòng)化自滿效應(yīng)，導(dǎo)致她未能及時(shí)發(fā)現(xiàn)行人，避免碰撞。

　　11、Uber Advanced Technologies Group沒有充分認(rèn)識(shí)到自動(dòng)化自滿的風(fēng)險(xiǎn)，也沒有制定有效的對(duì)策來控制導(dǎo)致車禍的車輛操作員脫離接觸的風(fēng)險(xiǎn)。

　　12、雖然在Uber高級(jí)技術(shù)組測(cè)試車中安裝人機(jī)界面降低了自動(dòng)化監(jiān)控任務(wù)的復(fù)雜性，撤換第二個(gè)車輛安全駕駛員的決定增加了對(duì)唯一安全駕駛員的任務(wù)要求，也減少了安全冗余，從而將在公共道路上測(cè)試自動(dòng)駕駛系統(tǒng)的風(fēng)險(xiǎn)降至最低。

　　13、盡管Uber Advanced Technologies Group有辦法追溯監(jiān)控車輛操作員的行為及其遵守操作程序的情況，但它很少這樣做；而在自動(dòng)駕駛系統(tǒng)測(cè)試期間，該公司決定撤換第二名車輛安全駕駛員，加劇了公司監(jiān)管不力的不利影響。

　　14、Uber Advanced Technologies Group在測(cè)試自動(dòng)駕駛系統(tǒng)的過程中，在事故發(fā)生后加入了第二個(gè)車輛安全駕駛，并對(duì)安全駕駛員的注意力進(jìn)行實(shí)時(shí)監(jiān)控，這表明該公司開始解決導(dǎo)致事故的監(jiān)管缺陷。

　　15、Uber Advanced Technologies Group的安全文化不健全造成了一些狀況，包括對(duì)車輛安全駕駛員的監(jiān)管不到位，這些狀況導(dǎo)致了撞車事故的發(fā)生，特別是車輛安全駕駛員在撞車過程中注意力分散。

　　16、Uber Advanced Technologies Group實(shí)施安全管理系統(tǒng)的計(jì)劃，以及事故發(fā)生后公司對(duì)車輛安全駕駛員監(jiān)管的改變，開始解決導(dǎo)致事故發(fā)生的安全風(fēng)險(xiǎn)管理方面的缺陷。

　　17、NaTIonal Highway Traffic Safety 4 AdministraTIon將強(qiáng)制提交的安全自我評(píng)估報(bào)告（目前是自愿的）及其評(píng)估提供了一個(gè)統(tǒng)一的、最低水平的評(píng)估，可以幫助各州制定有關(guān)自動(dòng)車輛測(cè)試的法律。

　　18、事故發(fā)生時(shí)，亞利桑那州缺乏一個(gè)以安全為中心的自動(dòng)駕駛系統(tǒng)（ADS）測(cè)試應(yīng)用程序?qū)徟鞒?，事故發(fā)生后，該州一直沒有開發(fā)這樣一個(gè)流程，這表明該州在提高ADS測(cè)試安全性和保護(hù)公眾方面存在缺陷。

　　19、考慮到缺乏聯(lián)邦安全標(biāo)準(zhǔn)和評(píng)估協(xié)議自動(dòng)駕駛系統(tǒng)，以及美國國家公路交通安全管理局的安全自我評(píng)估過程不足，與自動(dòng)車輛測(cè)試相關(guān)的要求可以通過在授予測(cè)試許可證之前實(shí)施徹底的應(yīng)用和審查過程來提高此類測(cè)試的安全性。