從拆除福島核電站到檢查北海的水下能源基礎(chǔ)設(shè)施，機(jī)器人車(chē)輛已在危險(xiǎn)環(huán)境中工作了數(shù)十年。目前，從船舶到雜貨配送，自動(dòng)駕駛車(chē)輛已從研究中心平穩(wěn)地過(guò)度至現(xiàn)實(shí)社會(huì)中，且?guī)缀鯚o(wú)紕漏。
然而，無(wú)人駕駛汽車(chē)的發(fā)展并仍停留在測(cè)試階段。2018年Uber自動(dòng)駕駛測(cè)試汽車(chē)就導(dǎo)致了一位行人喪生。盡管這類(lèi)事件在非自動(dòng)駕駛中經(jīng)常發(fā)生，但公眾對(duì)于無(wú)人駕駛汽車(chē)的安全標(biāo)準(zhǔn)要求較高，即使僅發(fā)生一次事故，也會(huì)認(rèn)為無(wú)人駕駛汽車(chē)不夠安全，不應(yīng)該投放于公共道路。
因此，設(shè)計(jì)一輛始終能做出最安全決策的完美無(wú)人駕駛汽車(chē)是一項(xiàng)非常艱巨的技術(shù)任務(wù)。與在嚴(yán)格控制的環(huán)境中推出的其他自動(dòng)駕駛車(chē)輛不同，無(wú)人駕駛汽車(chē)需在超長(zhǎng)且不可預(yù)測(cè)的道路網(wǎng)絡(luò)中運(yùn)行，從而快速處理大量復(fù)雜變量，以確保安全。
受交通法規(guī)的啟發(fā)，研究人員正在制定一套規(guī)則，以幫助無(wú)人駕駛汽車(chē)在各種可能的情況下做出最安全的決策。為了使可信賴(lài)的無(wú)人駕駛汽車(chē)安全上路，研究人員對(duì)以上規(guī)則進(jìn)行了驗(yàn)證，而這也是必須克服的最終障礙。
阿西莫夫第一定律
科幻小說(shuō)家Isaac Asimov于1942年提出了“機(jī)器人三定律”。第一個(gè)也是最重要的定律是：“機(jī)器人不得傷害人類(lèi)，或看到人類(lèi)受到傷害而袖手旁觀。”若無(wú)人駕駛汽車(chē)傷害人類(lèi)，則顯然違反了第一定律。
英國(guó)國(guó)家機(jī)器人中心（National Robotarium）正開(kāi)展一項(xiàng)研究以確保無(wú)人駕駛汽車(chē)始終遵守上述定律。這一保證將為各種嚴(yán)重安全問(wèn)題提供解決方案，而這些問(wèn)題正是阻礙無(wú)人駕駛汽車(chē)在全球普及的主要原因。
人工智能軟件實(shí)際上非常擅長(zhǎng)學(xué)習(xí)新場(chǎng)景。通過(guò)使用從人腦布局獲得靈感的“神經(jīng)網(wǎng)絡(luò)”，此類(lèi)軟件可以識(shí)別數(shù)據(jù)中的模式，如車(chē)輛和行人的運(yùn)動(dòng)軌跡，隨后在新場(chǎng)景中提取這些模式。
但我們?nèi)孕枳C明，無(wú)人駕駛汽車(chē)所學(xué)的所有安全規(guī)定可以應(yīng)用于新場(chǎng)景中。為此，我們可以采用形式驗(yàn)證，即計(jì)算機(jī)科學(xué)家用來(lái)證明規(guī)則在所有情況下均有效的方法。
例如在數(shù)學(xué)中，無(wú)需測(cè)試x和y的每個(gè)可能值，可以證明x + y等于y + x。形式驗(yàn)證下，不必詳盡測(cè)試在公共道路上可能發(fā)生的所有情況，即可證明AI軟件是如何應(yīng)對(duì)不同場(chǎng)景的。
近期在該領(lǐng)域取得的成就之一是AI系統(tǒng)的驗(yàn)證，即使用神經(jīng)網(wǎng)絡(luò)避免自動(dòng)駕駛飛機(jī)間的碰撞。研究人員已成功使用形式驗(yàn)證方法證明該系統(tǒng)將始終響應(yīng)正確，且不會(huì)考慮所涉飛機(jī)的水平和垂直操作。
交通法規(guī)
為確保所有道路使用者的安全，人類(lèi)駕駛員會(huì)學(xué)習(xí)并遵循交通法規(guī)，并在實(shí)際情況中正確使用。我們也可以使無(wú)人駕駛汽車(chē)學(xué)習(xí)這些法規(guī)，因此我們需要拆解法規(guī)中的具體要求，幫助車(chē)輛的神經(jīng)網(wǎng)絡(luò)理解并遵循每一條法規(guī)，隨后驗(yàn)證他們?cè)谒星闆r下是否能安全遵守這些法規(guī)。
但是，在檢查交通法規(guī)中的“絕不能”一詞的后果時(shí)，驗(yàn)證無(wú)人駕駛汽車(chē)是否安全遵守這些規(guī)則變得非常復(fù)雜。為使無(wú)人駕駛汽車(chē)在所有場(chǎng)景中都能像人類(lèi)一樣反應(yīng)靈敏，必須對(duì)這些法規(guī)進(jìn)行編程，并考慮到細(xì)微差別、加權(quán)風(fēng)險(xiǎn)以及偶發(fā)事件。在上述情況下，不同法規(guī)會(huì)發(fā)生直接沖突，要求車(chē)輛忽略一條或多條法規(guī)。
該任務(wù)不僅僅需要程序員，還需要律師、安全專(zhuān)家、系統(tǒng)工程師和政策制定者共同完成。在新成立的AISEC項(xiàng)目中，研究小組正設(shè)計(jì)一種工具以促進(jìn)跨學(xué)科合作，從而推動(dòng)無(wú)人駕駛汽車(chē)的道德和法律標(biāo)準(zhǔn)的建立。
完善無(wú)人駕駛汽車(chē)是一個(gè)動(dòng)態(tài)過(guò)程，取決于法律、文化和技術(shù)專(zhuān)家在不同時(shí)期對(duì)完美的定義。AISEC工具正是基于此想法構(gòu)建，可提供“任務(wù)控制面板”（mission control panel），監(jiān)測(cè)、補(bǔ)充并改變無(wú)人駕駛汽車(chē)最成功的法規(guī)，隨后提供給汽車(chē)行業(yè)。
研究人員希望在2024年前交付AISEC工具的第一個(gè)實(shí)驗(yàn)原型，但仍需創(chuàng)建自適應(yīng)驗(yàn)證方法來(lái)解決當(dāng)前安全問(wèn)題，這可能需要數(shù)年時(shí)間才能構(gòu)建并嵌入到自動(dòng)駕駛汽車(chē)中。
自動(dòng)駕駛汽車(chē)事故新聞總會(huì)成為頭條。在實(shí)驗(yàn)室里，如果無(wú)人駕駛汽車(chē)可以識(shí)別行人，并能夠在99%的情況下及時(shí)停車(chē)，這類(lèi)成就非常值得慶祝，但在真實(shí)生活中，它可能是一臺(tái)殺人機(jī)器。而通過(guò)為無(wú)人駕駛汽車(chē)制定可靠且可驗(yàn)證的安全規(guī)則，可消除那1%的事故率。
