在讨论一台无人驾驶却又在路上飞驰的汽车能不能懂伦理道德之前，我们先来看一个世界著名的难题——电车难题。

一、电车难题

电车难题有很多版本，最早于1967年由英国的一名哲学家菲利帕·富特提出：

一列有轨电车失去了控制，司机发现前方轨道上站着五个人，不知何故无法离开。司机可以任凭电车继续行驶撞死这五个人，也可以让电车转到岔路上，但这样会撞死另外一个在岔路上的人。那么司机应该怎么做，是转向还是不转向？

这个问题被提出之后曾引起了广泛的讨论，在讨论中衍生了更多不同的版本，仅摘录三个典型的。

版本一：

情形与上文相同，但岔路处多出了一个扳道岔，不扳动道岔车会继续前进，扳动道岔，就会拐弯，那么这个人是否应该扳动道岔？

版本二：

电车行驶路径上有座桥，桥上有个胖子，胖子身边站着的人发现，只要把胖子推下桥，就可以阻止电车继续前进，起码不会继续撞到路上的五个人，那么要不要把胖子推下去？

版本三：

与版本二类似，岔路其实也是与主路连通的，岔路上站着一个人，撞上他，就足以让电车获得足够的阻力停下来，这样驶回主路的时候，就不会撞上那五个人，司机要不要拐弯，或者旁观者要不要扳动道岔？

二、两个论点

在开始说双效原则之前，先就着第一段的题目说一下提出者的论点，以及相关的几个理论。

菲利帕·富特在提出电车难题后，还提出了一个假设，假如杀掉一个人，能够制取救活五个人的灵药，那么你是否支持杀掉这个人呢？富特认为，“人们倾向于选择司机转弯撞更少的人，却不同意杀人制药，这很值得深思与探究”，由此引发了大讨论。

十九世纪的伦理学家边沁曾说，“一个行为正确与否，完全取决于其造成的后果”。这一论点被称为“后果论”。它被称为“功利主义”，意思是说，判断好坏的标准，就是是否造成“幸福的最大化”或者说“大多数人的最大幸福”（请注意此处的功利主义和我们平常认为的并不相同）。

由此可以解释，为什么人们能够接受电车司机选择转弯，而不能接受杀人制药。电车司机转弯，或者类似的，扳动道岔另电车转弯，使得死亡人数降到最低，这符合“多数人的最大幸福”这一原则。

至于另一类直接杀人的，还有一个比杀人制药更具象化的相似例子，即著名的医生杀人假设：

假设发生了一起连环车祸，急救车送来了六个人，前边五个人受损的器官分比为五大重要的脏器，第六个人则基本没什么伤，只是因为撞击昏迷了过去。此时医生摘取了第六个人的器官给前五个人移植，救活了他们，但牺牲了第六个人。

在把胖子退下桥、杀人制药、杀人医生这类似的三个例子中，人们可能会普遍认为这种做法无法接受。

就此有人援引十八世纪德国哲学家康德的话说，将人视作手段，而不以人本身为目的，这永远都是错误的。那第六个人被利用了——目的仅仅是为了拯救其他五个人的生命，而丝毫没有考虑到他的个人以及生命不受侵犯的权利。康德的这一观点，被称为“义务论”。从义务论的角度看，道德即向拥有不同“权利”的人实施“义务”，而不仅仅是最多数人之最大幸福这样的加减乘除。

于是后果论的人们给出了这两种情况的不同，并对此做出了解释。

电车司机拐弯，或者扳动道岔，选择杀死一个人，是不得已的选择，杀人不是目的，目的是救人。而把胖子退下桥、杀人制药或者杀人救人，杀人成为了目的，在此之后才是救人的目的。而且，人们选择不让此类事情发生的另外一个原因是，万一下一个被要求献身或者被人主动要求“我要杀死你”的人就是自己呢？或者说，万一自己成了那个胖子或者被医生杀死的人呢？当人人自危的时候，就不满足“多数人的最大幸福”了。

到了这儿，支持这两种观点的人争论不休。然而人们都忽视了上边列举过的一个例子——版本三。在那个版本的假设中，存在一个付出生命就能让车停下的人，以及他所在的、连通了主要路线的岔道。在这个版本中，司机要不要拐弯？拐弯了又有没有错误呢？

三、双效原则

从朴素的伦理和道德观来讲，人们是应该求善避恶的。然而有些事情，就像上边列举的各种不同的例子一样，假定杀人是恶、救人为善，那么上边各种例子中既有善果也有恶果。如何判定这一行为到底是善还是恶，十三世纪的圣·托马斯·阿奎那在《神学大全》中提出了“双效原则”。他认为，在一些特定条件下，为达成善的目的而同时造成恶的结果是可以被允许的。这些特定条件，包含四层：

条件一：该行为本身，在道德上必须是善的，或至少是中性的。

条件二：行为人不能主观希望恶果的发生，但可以允许其发生。

条件三：善果与行为本身的关系，其直接程度，必须等同或者高于善果与恶果之间的关系。换句话说，善的结果必须是由这行为直接造成的，而不是通过恶果间接造成的。否则，行为人就是以恶果为工具来达成善果，这是永远不能被允许的。

条件四：善果之可取，必须足以弥补恶果之恶。

以这四个条件反观以上的各个例子，电车难题本身，司机使电车转弯从道德上讲是中性的，他并不希望有人死，也没有利用这个人的死来达成救另外五个人的目的，最后一个人死了另外五个人活了。这样司机的转弯行为满足以上的四个条件，因此从道德上讲，是可行的的。

同样利用双效原则的四个条件可知，推胖子下桥、杀人制药、杀人取器官救人都是不合乎道德不可行的。

四、车辆的伦理道德

说到这儿，看官们可能问了，你不是要从电车难题说起，讨论车辆的伦理道德的事儿嘛，怎么扯了这么久的电车难题还有各种理论？

因为，看完了上边的，现在我们把场景转换一下。

一辆无人驾驶的出租车，正在公路上狂奔，车上坐满了乘客，这时候发生了刹车故障，好在这车的无人驾驶技术够牛也够成熟，左闪右躲的，没撞到别的车，就来到了十字路口。

然而，正是红灯时间，直行会撞到面前过马路走到一多半的行人，右转会撞到另外一个方向上闯红灯的行人。恰好，遵守交通规则过马路走到一半的是一个人，闯红灯的是一家五口，男女老幼都有。

请问，这辆因为刹车失灵而失控的无人驾驶出租车该如何抉择？

有的人会说，那当然要避让遵守交通规则的行人，甭管人多人少也得让；

有的人会说，那当然要选择人少的撞而不是人多的啊……；

有的人会说，提升技术让车撞不到人不就好了么；

也有人会说，车上还坐满了人，就算撞不到人，撞到别的，别忘了车上的人也会受伤。

诸如种种，不一而足。观点会很多方法也会有很多。

然而，说到这里，各位看官是否发现个问题，不管这台车要怎么做，这些选择都是由人做出来的。换言之，即便不是这种假定条件下的各位帮车做出的选择，放到现实条件中，车做了什么选择是由写程序的人决定的。

所以，车到底有什么样的伦理道德观，其实，取决于开发车的人。

这才是让车懂伦理道德的根本难点——造车的人到底秉持的是怎样的道德观？这样的道德观，又是否能够由所有人接受？会不会有人凭借市场的垄断地位强奸民意？

就像最近密集出现的另一则新闻，程序有了种族主义倾向。

程序怎么会有种族主义倾向？根本还是在人，在程序的设计者。

五、结语

上边的双效原则，或许是一个能够取得最大公约数的对电车难题的解决办法。然而，无人驾驶汽车上路的过程中，还有多少类似电车难题的道德难题，又需要设计者去设计多少条规则来进行规避呢？单单机器人三定律，似乎是不够的……