自動駕駛會影響人們的傳統(tǒng)駕駛倫理觀，而且還會創(chuàng)造出新的駕駛倫理觀念，因此對自動駕駛的倫理決策制定基本框架是具有前瞻性的。

設(shè)想，一個醉漢突然沖向馬路，因撞上了正在行駛的自動駕駛車輛而死亡。在現(xiàn)有的法律框架下，人們不會苛責(zé)任何一個正常的理性人，因?yàn)閹缀鯖]有可能避免這樣的意外事故。但是自動駕駛汽車，可能會改變?nèi)藗儗^錯的判斷標(biāo)準(zhǔn)，因?yàn)槲磥?，這個標(biāo)準(zhǔn)將是合理機(jī)器人（reasonable robot）標(biāo)準(zhǔn)。此外，相較于人工駕駛，自動駕駛更具有“可責(zé)性”。

因?yàn)?，自動駕駛車輛的決策基礎(chǔ)是事前的系統(tǒng)編程，所以可以理解為，對于交通事故的損害結(jié)果具有事前的“預(yù)謀”和“故意”。

《2018年全球自動駕駛法律政策研究報告》關(guān)于全球政策分析第六章《倫理：自動駕駛的阿喀琉斯之踵》中，針對相關(guān)政策給出了分析與答案，以下為具體內(nèi)容：

探索自動駕駛的具體倫理規(guī)則

在自動駕駛汽車倫理問題上歷來存在巨大爭議。像“電車難題”這樣的倫理困境，人類尚且難以給出兩全之策，機(jī)器又該如何妥善處置呢？

有學(xué)者指出對電車難題的討論是沒有意義的。德國車輛制造商梅賽德斯更是直截了當(dāng)?shù)亟o出了自己的答案，即梅賽德斯將優(yōu)先保護(hù)車上人員安全，同時指出電車難題不是一個真正的問題，因?yàn)樵?a target="_blank">公司將“致力于提高和完善技術(shù)和風(fēng)險防范策略，完全避免兩難情況的出現(xiàn)”。

美國交通部2016年將倫理問題作為自動駕駛汽車15項(xiàng)安全評估標(biāo)準(zhǔn)之后，2017年卻將其從中刪除，這一轉(zhuǎn)變表明倫理事項(xiàng)并非當(dāng)前的核心問題。然而，德國則嘗試應(yīng)對自動駕駛汽車帶來的倫理問題，并為自動駕駛汽車提出了20項(xiàng)倫理準(zhǔn)則，但這些原則能否落實(shí)到技術(shù)層面也備受爭議。

2017年6月，德國聯(lián)邦交通部自動駕駛倫理委員提交了《自動駕駛汽車倫理報告》，該報告指出三項(xiàng)宏觀倫理要求：

其一，自動駕駛的首要目標(biāo)是提升所有交通參與者的安全，在同等程度上降低所有交通參與者的風(fēng)險；

其二，認(rèn)為自動駕駛系統(tǒng)發(fā)生事故并不超出倫理界限；

其三，雖然自動駕駛技術(shù)能夠降低風(fēng)險，提高道路安全，但如果以法律命令要求必須使用和普及這種技術(shù)，在倫理層面就是有問題的。

在微觀上，該報告從倫理困境，網(wǎng)聯(lián)安全和車輛數(shù)據(jù)保護(hù)，人機(jī)交互，新技術(shù)背景下其他領(lǐng)域的倫理問題，責(zé)任認(rèn)定等角度提出了多項(xiàng)具體要求，主要包括以下三方面：

（1）明確優(yōu)先選項(xiàng)并進(jìn)行限制

諸如“電車難題”這樣的倫理困境，其核心在于不同利益具有各自合理性的同時又相互排斥，不論從功利主義還是義務(wù)論的角度解釋，侵犯任何一方的權(quán)益均難具說服力。例如，小孩和老人的生命，乘客和行人的生命，五個人和一個人的生命等等。因此，在討論倫理抉擇時，需要首先明確的是，所謂“優(yōu)先選項(xiàng)”并非“否定選項(xiàng)”，因?yàn)閭惱斫^對不鼓勵損害任何一方的利益，且任何一方的利益都具有合理性和正當(dāng)性，任何抉擇都將產(chǎn)生道德遺憾。

在具體規(guī)范中，明確和限制對優(yōu)先選項(xiàng)的選擇主要體現(xiàn)在兩個方面，其一是對人的保護(hù)優(yōu)先于所有其他利益考量，即在用盡所有技術(shù)防御仍無法避免的危險中，對人類生命的保護(hù)在法律上高于一切。也即，在技術(shù)可行性框架范圍內(nèi)，為了避免人身傷害，接受對動物或財物的損害。

其二是禁止歧視，即在發(fā)生不可避免的危險時，嚴(yán)格禁止將個人特征（如年齡、性別、身體及精神狀況等）作為評判標(biāo)準(zhǔn)。禁止對受害者進(jìn)行區(qū)別對待，禁止對被害人進(jìn)行相互抵消，禁止認(rèn)為根據(jù)主體數(shù)量決定“五個人的生命價值高于一個人的生命價值”。

（2）保留人對車輛的控制權(quán)并禁止事先編程

在以個人為中心、促進(jìn)自由發(fā)展的同時，關(guān)于技術(shù)的立法策略應(yīng)該是追求個人選擇權(quán)最大化。如果要求每個駕駛員都按照編程做出倫理決策，等于剝奪了駕駛員自主選擇的權(quán)利。德國自動駕駛倫理原則第1條指出，技術(shù)應(yīng)遵循個人自治原則（the principle of personal autonomy），個人也應(yīng)對自身享有的行動自由負(fù)責(zé)。與此類似，阿西洛馬人工智能原則的第16條也指出，人類應(yīng)該來決定如何和是否讓人工智能系統(tǒng)去完成人類選擇的目標(biāo)。而這一點(diǎn)，也是確保車上人員能夠長遠(yuǎn)地享有車輛絕對控制權(quán)的重要途徑。

保留人對車輛的控制主權(quán)同時還體現(xiàn)在禁止程序開發(fā)人員對倫理抉擇進(jìn)行事先編程。德國自動駕駛倫理原則指出，對于兩難局面，即必須在人的生命之間做出損害甚至犧牲一方以拯救其他當(dāng)事方的選擇的極端情況，兩難決策（dilemmatic decisions）不能被標(biāo)準(zhǔn)化和編程化，具體決定應(yīng)視具體情況而定。

（3）強(qiáng)調(diào)通過技術(shù)防范倫理困境

政策不該將機(jī)器人或者學(xué)習(xí)算法置于人類生命決定者的角色，而應(yīng)積極探索其他解決思路。目前主要的思路，就是技術(shù)手段。通過技術(shù)防范倫理困境主要體現(xiàn)在三方面：

其一，自動駕駛技術(shù)應(yīng)盡量避免事故的發(fā)生，對于兩難局面（dilemmatic conflict），應(yīng)該事先就做出防范此類風(fēng)險的策略。因此，從車輛的設(shè)計和編程開始，就應(yīng)考慮以一種具備防御性和可預(yù)期的方式駕駛，并全面應(yīng)用和完善技術(shù)，盡可能地降低可能給交通弱勢群體（vulnerable road users）造成的風(fēng)險。

其二，公眾對于自動化技術(shù)的研發(fā)情況享有知情權(quán)，應(yīng)該以盡可能透明的形式整理出自動駕駛車輛使用及編程準(zhǔn)則，并告知公眾，同時由專業(yè)的獨(dú)立機(jī)構(gòu)對其進(jìn)行審查。

其三，制造商或運(yùn)營商有義務(wù)在技術(shù)可行及合理的范圍內(nèi)，對已交付的系統(tǒng)程序進(jìn)行監(jiān)督，并及時改進(jìn)和更新系統(tǒng)，以確保和提高自動駕駛車輛防范倫理風(fēng)險的能力。

自動駕駛技術(shù)未來發(fā)展繞不開人機(jī)倫理爭議

雖然當(dāng)前各國紛紛認(rèn)可自動駕駛技術(shù)的法律地位，但將來是否以法律命令要求必須使用和普及這項(xiàng)技術(shù)，現(xiàn)在還未達(dá)成共識。

2015年，伊隆·馬斯克在一次采訪中表示，汽車技術(shù)的進(jìn)步有朝一日可能使人類操作的汽車成為非法。這引出了一個問題，未來誰將成為合法的司機(jī)，未來的法律政策在人機(jī)之間作何選擇。

雖然各國的自動駕駛汽車法律政策無論是針對測試還是商用都強(qiáng)調(diào)人類司機(jī)的絕對控制權(quán)，在自動駕駛模式下是如此，在輔助駕駛模式下更是如此。但如果將來自動駕駛技術(shù)的安全性可以達(dá)到非常高的安全水平，在所有的駕駛環(huán)境中都能夠作出比人類更優(yōu)的決策和判斷，使得交通事故成為小概率事件，法律政策又該作何選擇？屆時，考慮到人類駕駛顯著的負(fù)外部性，允許人類駕駛將比允許自動駕駛更不道德？

當(dāng)前來看，在人機(jī)切換的選擇下，將司機(jī)從駕駛活動中解脫出來，又希望其在必要時介入，是一個充滿悖論的選擇。業(yè)界對困擾人機(jī)切換的“離手”（hands-off）問題尚未找到有效的解決方法。無論是輔助駕駛還是自動駕駛，很多事故其實(shí)是在人機(jī)切換時司機(jī)反應(yīng)不及時、注意力不集中而導(dǎo)致的。未來的汽車設(shè)計是否可以不用再考慮人類駕駛這一因素，這既有來自當(dāng)前法律的障礙，也有來自于倫理的障礙。

德國等歐盟國家強(qiáng)調(diào)技術(shù)應(yīng)遵循個人自治原則，不應(yīng)限制個人行動自由。德國自動駕駛汽車倫理報告承認(rèn)，具備防撞功能的高度自動化系統(tǒng)能降低風(fēng)險、增強(qiáng)安全性，這是社會和倫理層面需要鼓勵的，但如果以法律命令要求必須使用和普及這種技術(shù)，則會引發(fā)“人受制于技術(shù)、人的主體地位受到貶損”等道德爭議。當(dāng)然，無人駕駛汽車的設(shè)計選擇還面臨著來自司機(jī)群體的壓力和反抗。想必隨著技術(shù)的成熟和普及應(yīng)用，自動駕駛?cè)〈祟愸{駛、自動駕駛優(yōu)先于人類駕駛等倫理道德爭議將熱烈起來。

無論如何，可以的肯定是，無人駕駛汽車的設(shè)計選擇將深刻影響汽車制造、保險等相關(guān)產(chǎn)業(yè)和人類世界。雖然我們無法準(zhǔn)確預(yù)知未來，但卻可以選擇對自動駕駛汽車未來發(fā)展路徑保持開放，可以選擇不把人類駕駛員這一緊箍咒加諸其上，讓技術(shù)和市場決定誰來主宰未來交通。