自动驾驶工程伦理案例分析

2024年4月3日发(作者：15年标致308值多少钱)

自动驾驶工程伦理案例分析

一、 引言

2016年1月20日，京港澳高速河北邯郸段发生一起追尾事故，一辆特斯拉轿车撞上了前

方的道路清扫车，特斯拉轿车当场损坏，轿车上23岁的男性驾驶员高雅宁不幸身亡。现场交警

的调查也显示，事故发生时涉事特斯拉没有刹车和减速的迹象，也没有采取任何躲避措施。事

故发生后，特斯拉在声明中称，多次与高家沟通无果。

二、 相关背景介绍

百度无人驾驶汽车（baidu nomancar)是指百度打算与第三方汽车厂商合作制造的无人驾

驶汽车。百度在2015年下半年推出无人驾驶汽车。

百度无人驾驶车项目于2013年起步，由百度研究院主导研发，其技术核心是“百度汽车大

脑”，包括高精度地图、定位、感知、智能决策与控制四大模块。其中，百度自主采集和制作

的高精度地图记录完整的三维道路信息，能在厘米级精度实现车辆定位。同时，百度无人驾驶

车依托国际领先的交通场景物体识别技术和环境感知技术，实现高精度车辆探测识别、跟踪、

距离和速度估计、路面分割、车道线检测，为自动驾驶的智能决策提供依据。

三、 故事情节描述

2016年1月20日，京港澳高速河北邯郸段发生一起追尾事故，一辆特斯拉轿车撞上了前

方的道路清扫车，特斯拉轿车当场损坏，轿车上23岁的男性驾驶员高雅宁不幸身亡。现场交警

的调查也显示，事故发生时涉事特斯拉没有刹车和减速的迹象，也没有采取任何躲避措施。事

故发生后，特斯拉在声明中称，多次与高家沟通无果。

随后遇难者家属高巨斌将特斯拉在中国的销售公司起诉至北京市朝阳区人民法院，要求赔

偿损失一万元。其真实目的不在于特斯拉能够赔偿多少，而是希望通过该案能够让公众知道这

种“自动驾驶”技术有缺陷，希望特斯拉在产品营销过程中不要把“自动驾驶”作为吸引年轻

人的卖点。

2016年9月案件开审。特斯拉在庭审后曾发表声明称，“没有证据表明Autopilot在事故

发生时处于运行状态，Autopilot不是这一事故的原因，因为该技术只是一种驾驶辅助系统，协

助一名注意力集中的驾车者。”

经过一年多的审判，特斯拉公司在大量的证据面前，终于承认车辆在案发时处于自动驾驶

状态。由此看来，在自动驾驶汽车真正到来之前，还有很多影响是我们无法预估的，就算自动

驾驶汽车将事故概率降至趋近于0，也无法做到100%避免，那么如果发生碰撞是谁的过错？汽

车制造商还是车上人员？自动驾驶汽车的保险又该如何确定？等等，此外，随着我们迈向更加

自动化的未来，自动驾驶也将对道路质量、地图精度、网络环境等有着更高的要求，任何一环

出现问题，都有可能导致不可预估的风险。因此，人工智能下的汽车自动驾驶技术在面对安全

问题仍然是一个重大考验。

四、 案例分析

(1)案例分析

无人驾驶最为人称道的优势之一，就是将极大地降低甚至消除交通事故率。人工智能完美

处理运作，自动驾驶被认为将比人类驾驶员更靠谱。在美国佛罗里达州的高速公路上，一辆特

斯拉Model S在自动驾驶模式下，直接从侧面穿进大卡车的底部，挡风玻璃全部破碎， 40岁

驾驶员当场死亡。驾驶员们因为厂商宣传的各种安全性能提升，他们的警惕性下降，对于驾驶

变得松懈。甚至操作更加大胆，因为知道有更多安全保障而不断提升车速，反而将增加事故率。

如何在无人驾驶模式下保证驾驶员的操作规范，在人为和智能双结合驾驶模式下，如何帮助无

人车拒绝来自主人的不安全指令，或何时拒绝不合时宜的高速模式，当实时数据与驾驶员指令

存在矛盾时，计算机又该如何处理。

企业把公司利益作为目标，忽视法律和道德。特斯拉公司想要做大做强，应该以创新进取

为目标。自动驾驶技术作为未来汽车行业发展方向，特斯拉没有理由放弃该技术的研发。但是

企业不应该把公司利益作为唯一目标，更不应该忽视法律和道德。针对该致死事件特斯拉回应：

“自动驾驶是一项辅助功能，要求驾驶员双手始终握住方向盘。”由此可见自动驾驶技术尚不

成熟，无人驾驶更无从谈起。既然自动驾驶汽车技术大部分尚处于实验阶段，尚未完全成熟，

因此特斯拉更应该谨慎商业化应用。

经过一年多的审判，特斯拉公司在大量的证据面前，终于承认车辆在案发时处于自动驾驶

状态。企业的社会责任要求企业必须超越把利润作为唯一目标的传统理念，强调要在生产过程

中对人的价值的关注，强调对环境、消费者、对社会的贡献。在此次案例中，特斯拉在事故发

生后的责任追偿中，没有勇于承担责任和义务，对发生事故的家庭造成二次伤害。

2017年5月，德国修订了《道路交通法》，2018年7月，英国通过了《自动和电动汽车法

案》，我国目前立法并没有规定自动驾驶汽车致人损害的问题。在此次案列中，存在监管制度漏

洞、技术法规和标准不完善等问题。国家要为各地方政府的监管确定底线与准绳,并尽快开展事

故后保险理赔与责任追偿。

(2)伦理困境

汽车生产商的伦理困境：出现“电车难题”时，无人驾驶汽车的首要任务是为了保护车主

的安全，还是为了保护车外人的安全？举一个例子，你乘坐无人驾驶汽车行驶在山路上，发现

面前有几个小孩堵在路中间，向左拐弯的话，你会有冲下悬崖的可能性，向右拐弯则是逆行道，

违反了交通规则，有可能与前方驶来的汽车迎头相撞。这时，如果无人驾驶汽车的设计理念是

优先保证车内人的安全，那么汽车完全不会做任何操作，径直轧过去就行了，但后果会造成这

几个小孩的身亡。另一方面，如果无人驾驶汽车的设计理念是保护车外人的安全，那么很明显，

这样的车卖不出去——无论车主还是汽车生产商，都不希望自己成为车祸的受害者。

法律制定者的伦理困境：如果无人驾驶汽车遵守规则就必须造成伤害，是否应该允许无人

驾驶汽车破坏交通规则呢（比如转入逆行道）？如果可以的话，这是与“遵守交通规则，降低

事故风险”的常识相矛盾的。当然，也有人指出，也许可以在设计无人驾驶汽车软件的时候不

设定什么“指导原则”，就让汽车模拟人类司机的下意识操作，让它在随机状态下运行。但这

种“碰运气”的做法同样不符合人类发明无人驾驶汽车的初衷。

普通大众的伦理困境:如果程序设计倾向于普通路人的话，如何保证司机不会自己修改程序，

以确保自己永远不会被车主蓄意谋杀？毕竟计算机软件总有漏洞，总会有人能破解这些软件。

车主的伦理困境：在面对碰瓷、中国式过马路、偷井盖、公路塌陷等等问题上出现事故的

话，谁应该为此事负责。

五、 结论和启示

目前来看，无人驾驶是历史发展的必然趋势。科技是第一生产力，无人驾驶技术极大提升

了运输生产力。无人物流可成倍提高运输效率，且有效降低燃油成本。最重要的是,驾驶员被彻

底解放了出来，这类似于工业革命,大量的重复性劳动被机器承担。

首先是技术层面。针对致死事件特斯拉回应：“自动驾驶是一项辅助功能，要求驾驶员双

手始终握住方向盘。”由此可见自动驾驶技术尚不成熟，无人驾驶更无从谈起。控制汽车行为

的相关智能程序还需积累更多的行驶经验，不断完善其“数据库”。更重要的是，一旦遇到

“数据库”之外的突发情况，应及时启动紧急“保护模式”，这是最起码的安全保障。否则，

面对难以判断的复杂路况,无人驾驶恐怕将成“无人生还”。

其次是法律层面。中国政法大学传播法研究中心副主任朱巍指出，国家要为各地方政府的

监管确定底线与准绳,并尽快开展事故后保险理赔与责任追偿。在无人驾驶卡车立法的“瞻前”

与“顾后” 中，不得不考虑到卡车车大、车重，车祸对第三方的伤害程度也更大，因此在法律

层面“底线”与“准绳”应有更严苛的标准,理赔与追偿也应有更大力度。

最后是推行思路。在互联网+的大背景下，无人驾驶将创造大量市场机遇。Uber 创始人卡

兰尼克说，他更希望Uber的司机大军换成无人驾驶的车队，这样成本会比买车还要低。京东

CEO刘强东表示，两年之内将在北京建立全球第一个上线运营的无人物流中心。显而易见，刘

强东的愿景离我们更近一些。相比更复杂、更无序的城市公路，卡车在高速公路上更容易实现

无人驾驶。“无人物流”实现的第一步希望是城市之间的点对点运输，至于仓库到店铺的无人

运输，恐怕就需要智能汽车另一个数量级的存储和运算了。

六、 思考题

1） 你觉得自动驾驶汽车，是应该完全依靠程序去判断，还是应该让自动驾驶技术起到辅助

人的作用？

2） 你会买一俩驾驶程序偏向于路人的自动驾驶汽车？