艰难的选择|自动驾驶汽车面临的伦理困境

由于道路交通的高度动态性，安全性相关事件可能会在几分之一秒内发生，甚至在某些情况下，一连串的事件可能会导致问题无法在不造成人身伤害的前提下被解决。

当遇到这种困境时，自动驾驶车辆必须选择一种最优的可能行动方式，即使造成人身伤害也要使损失可能达到最小。

1、艰难的选择

让我们首先讨论一个假设场景：在可能的将来，一辆刹车失灵的自动驾驶汽车遇到了这样的选择，它必须向右转撞向一个婴儿，或者向左转撞向八十岁的老奶奶，且根据车辆的速度，被撞者一定会死亡，但如果不转向，两名受害者都会被撞身亡。

如果你正在从事自动驾驶的编程工作，当遇到这种残酷的情况时，为了使结果尽可能好，你会做出什么样的决定呢？

图  自动驾驶伦理困境：艰难的选择

在这种特殊的场景中，自动驾驶汽车需要根据程序员设计好的成本函数，计算各种选项的预期成本，进而选择最低成本的选项，而一旦做出选择，将可能决定谁能够生存或死亡。

根据现有的相关道德准则，在这种情况下，程序员做出的任何选择在伦理上都是不正确的。在欧洲和美国的相关法律中，明确规定了所有人都需要被公正对待，不能因种族、宗教、性别、年龄、国籍等因素采取歧视行为。

同时，如果自动驾驶汽车获得控制权，并做出导致一个人死亡的决定，那么汽车、OEM或自动驾驶公司就要对杀死一个人的行为负责。所以，很难想象一个程序员需要做出如此重大、严肃的决定。

但是，如果不做出选择同时撞向两个人，就会造成两人死亡，这样的结果显然更加糟糕。

假如我们进一步修改场景，用10名行人替换老奶奶，如果继续前进就会造成10人死亡，而转身则只会造成1人死亡。另一种做法是随机选择转向方向，不对任何人产生偏见。但这似乎也存在道德上的困扰，因为我们过于“草率”的选择了生命的去留。这是一个不容易解决的问题，为开发自动驾驶汽车提出了很高的道德要求。

2、更多伦理场景

除了上述假设之外，还有许多涉及伦理判断的实际和假设场景，接下来本文将再列举一些，用于引发读者的思考。

2.1、自我牺牲

当你的自动驾驶汽车正行驶在悬崖边的狭窄道路上时，一辆载有28名孩子的校车突然出现在急转弯处，同时车辆的一部分在你的车道上，你的汽车根据速度和距离计算出碰撞即将来临，并且碰撞后将使校车坠落悬崖，进而导致28名孩子死亡，而如果选择主动驶向悬崖，则只会造成你一人死亡，既自我牺牲，此时你希望自动驾驶汽车如何做决定呢？

2.2、闪避伤害

假设你的自动驾驶汽车停在一个十字路口，正耐心等待前面穿过路口的孩子，此时它检测到车后的货车将会撞到其后端。碰撞可能会在某种程度上损坏你的车，也许会对你造成轻伤，但绝对不会死亡。为了避免这种伤害，你的汽车被编程为在安全的情况下冲出道路，在这种情况下，汽车可以轻松地在交叉路口右转，避免后端的碰撞。但是让路后，货车将会穿过十字路口，进而造成路口的孩子们死亡，此时你希望自动驾驶汽车如何选择？

2.3、突然出现的动物

假设在自动驾驶模式下，一头鹿突然出现在汽车前方的道路上，自动驾驶系统是否有时间合理地把汽车控制权交给转向盘后面的人？如果没有，是否有时间停车？是需要紧急制动还是适度制动？

这些问题是发生在真实的场景中的，在美国，有专家估计每年有超过100万次的车辆事故是由鹿造成的，许多驾驶员都曾被突然出现的鹿吓到过，这对人和动物来说都是危险的。而这一切可能仅发生在几秒钟内，自动驾驶汽车需要一个周到的程序，以最佳的方式迅速做出反应。

与自动驾驶有关的伦理问题还有很多，我们真的无法知道自动驾驶汽车的未来会是什么样子，但是可以看到我们还需要做很多的工作。在未来的交通中，单纯的预防碰撞功能是远远不够的，特别是在各种复杂的道路条件下，极端的天气、一些带有恶意的行人、不好的运气也可能导致碰撞发生，因此，自动驾驶车辆还需要有关伦理思考的碰撞优化策略。