Uber 自駕車死亡事故調查報告出爐:系統看到但無法辨識該行人

因為系統不知道行人會不走斑馬線而直接穿越馬路……
評論
Photo Credit:Reuters/ TPG Images
Photo Credit:Reuters/ TPG Images
評論

                                                                 
             本篇來自合作媒體 ifanr,INSIDE 經授權轉載。

Uber 自駕測試車撞死路人的 20 個月後,美國國家運輸安全委員會(NTSB)公布了讓人不安的發現──Uber 的自動駕駛系統是「看」到推著單車過馬路的受害者,但由於她不是走在斑馬線上,系統無法辨識她是人。

NTSB 長達 400 頁的調查報告,可了解事故發生的詳盡過程。

2018 年 3 月 18 日晚上,自駕車在亞利桑那州坦佩市以時速 43.5 英里(約 70 公里)行駛。49 歲的 Elaine Herzberg 正推著單車橫越馬路,她離最近的人行穿越道約 109 公尺。

事故發生前 5.6 秒,自動駕駛系統首次「看」到 Herzberg。

出於設計缺陷,自動駕駛系統並沒有賦予辨識人行穿越道以外的路人。於是,系統猜她也許是「車輛」,然後依次將判斷改為「其他」→「車輛」→「其他」→「單車」→「其他」,但最後決策落在「單車」。

自動駕駛系統「改變想法」時,每改變一次「主意」,系統就得重新估算眼前物體的移動趨勢。

事故發生前 1.2 秒,系統確認將撞上 Herzberg,想繞開又不可行,於是系統決定,得剎車了。

這時,另一個被詬病的功能開始作用──行動抑制機制(action suppression)。

出現需剎車的情況,「行動抑制機制」會將緊急停車的動作延後 1 秒,以二次確認「風險本質」,規避誤判。同時,這也是安全駕駛員可直接剎車的時間,只是當時駕駛正在看手機,並沒有留意到眼前的行人。

事故發生前 0.2 秒,自動駕駛系統發出警告聲,安全員接手方向盤。

車撞上 Herzberg 近 1 秒後,安全駕駛員才踩剎車。

從很多方面來看,Uber 的自動駕駛技術無法考慮人類實際行為。《Wired》評論。

此外,NTSB 指出,Uber 當時並沒有為自動駕駛設立獨立安全部門,設計正式的安全規劃、作業準則或任命專門負責防止事故的管理者,只有向全公司員工傳遞的價值,譬如「做對的事情」(do the right thing)。

Uber 表示,當時有安全規定和作業流程,只是沒有正式安全規劃。

NTSB 雖然描繪自動駕駛的安全問題,但並沒有直接指出車禍發生的原因。NTSB 將於 11 月 19 日在華盛頓舉辦會議,屆時,調查員將發表車禍的完整報告並公布最後的調查結果,判定意外到底是誰/什麼的責任,並為政府管理者和科技公司提供建議。

我們很重視 NTSB 對車禍的詳盡調查,期待在月底 NTSB 會議後了解他們的建議。Uber 官方回應。

車禍發生後,有報導指時任 CEO Dara Khosrowshahi 曾考慮取消自動駕駛項目,但最後還是沒有這樣做。

事故發生後 9 個月,Uber 宣布重啟自動駕駛路測。

RTX5EW2I
Photo Credit:Reuters/ TPG Images

▲ 重新上路的 Uber 自駕測試車。

Uber 保證在車上配備兩位安全員,且不會在晚上及天氣惡劣時測試。此外,Uber 也放棄「行動抑制機制」,新設定下,汽車會提早 4 秒剎車。

自動駕駛已成為科技公司、汽車公司甚至零售業(自動車配送)都不願放過的研發方向時,Uber 的堅持也不意外。畢竟,自動駕駛未來是千億美元級別的市場。

Transpo-uberselfdriving-RTSNO5Z
Photo Credit:Reuters/ TPG Images

但也正是激烈的競爭下,《衛報》科技編輯 Alex Hern 描繪的情況尤其讓人擔憂。

我們曾討論未來自駕車也許會面臨困擾哲學家數十年的「電車難題」:面對車禍,自動駕駛系統是應該救乘客,還是行人?

但 Hern 看來,自動駕駛業真正的困局是另一個:自動駕駛的衝突從未像「電車難題」。產業面對的哲學難題只有一個:

如果你做好安全測試,競爭對手也許會搶在你之前進入市場。拉下這槓桿,把人命輸入系統,你也許能贏。

責任編輯:蜜雅
核稿編輯:李柏鋒



精選熱門好工作

樂趣買Web Designer(Rakuma)

台灣樂天市場
臺北市.台灣

獎勵 NT$15,000

資深商品開發人員(Sr. Product Development)_台北、上海

科毅研究開發股份有限公司
新北市.台灣

獎勵 NT$15,000

客群經營資深人員

王道商業銀行
臺北市.台灣

獎勵 NT$15,000