新电车难题：用算法来分配社会悲剧

推荐阅读卡拉布雷西的《悲剧性选择》。

电车难题

你站在天桥上，看到有一台刹车损坏的电车。在轨道前方，有五个正在工作的人，他们不晓得电车向他们冲来。一个体重很重的路人，正站在你身边，你发现他的巨大体形与重量，正好可以挡住电车，让电车出轨，不致于撞上那五个工人。你是否应该动手，把这个很胖的路人从天桥上推落，以拯救那五个工人，还是应该坐视电车撞上那五个工人？

这就是著名的电车难题。

机器人四定律

如果现在不是你，而是人工智能做决定呢？我们应该怎么实现人工智能的算法？

比如，行人横穿马路，刹车来不及，如果不转向，会撞死行人；如果转向，乘客会死于翻车。自动驾驶汽车应该作何选择？

科幻小说大师阿西莫夫提出机器人四定律：

• 第0定律：机器人不得伤害人类种族，或者因不作为而使人类种族受到伤害。
• 第1定律：机器人不得伤害人类，或者因不作为而使人类受到伤害；
• 第2定律：除非违背第一定律，否则机器人必须服从人类的命令；
• 第3定律：在不违背第一及第二定律下，机器人必须保护自己。

机器人定律定义严密，层层递进，它能解决自动驾驶汽车的选择困境吗？

不能，问题是怎么辨别最大整体利益是什么？救一个小孩杀一个老人，算不算？救两人杀一人呢？救两个胖子杀一个瘦子呢？救两个女人杀一个男人呢？

道德算法

那么，你想要什么样的道德算法？你想机器人按什么道德算法来运行？

推荐个自测工具，麻省理工大学的道德机器，研究者用它来搜集在自动驾驶问题上社会的道德判断，并且已经在顶级期刊《科学》发表了论文：《自动驾驶的社会困境》。

点进去，你会遇到13种情境，形形色色的人群组合，老的小的男的女的好的坏的胖的瘦的。面对着自动汽车，假设你是乘客，你希望自动汽车牺牲谁拯救谁？如下是我的偏好：

• 孩子重于老人，胖瘦男女对我完全没差别；
• 多个人重于一个人，不论是什么人；
• 人重于动物，遇到撞人还是撞狗，永远选择撞狗；
• 如果转向不转向都撞到同样多人，那就不转向；
• 如果转向的后果是我自己完蛋，那就绝不转向。

总的来说，我的选择是功利主义(utilitarianism) 的。如果一个选择比其他选择更有效用，我就选它。

研究者发现，效用主义深入人心，绝大多数人支持用效用主义来给自动汽车编制算法。

然而，问题在于，人是自相矛盾的。

研究者发现，绝大多数人认可效用主义算法，但如果自动汽车按这个算法来作选择，他们却不想坐，更不会买，因为他们希望买的是那种永远优先保护乘客的自动汽车。

也就是说， 绝大多数人都支持自动汽车使用功利主义算法，支持别人买这样的车，但自己不买。这就会造成典型的社会困境。你希望别人做的事，自己不做。结果就是谁也不做，最后这种自动汽车根本就没人买。

如何解决

那么如何解决这个问题呢？一个思路是寻找与困境并存的策略。其实人类古往今来一直在做这件事。

泰坦尼克号撞冰山，谁先上救生船？计划生育，如何分配生育指标？器官移植，谁优先获得器官？电车难题，以及今天的新问题：自动汽车撞谁不撞谁？等等等等？本质上都是把悲剧分配给谁的问题。

卡拉布雷西说， 社会分配悲剧有四个策略：市场、政府、摇号、惯例，但没有哪个能长期维持分配的稳定性。

1. 市场化分配是分散决策，价高者得。但是这种机制，不可避免地将已有的财富不平等，延展到当下分配的不平等，并且注定将人们认为不可定价的东西，比如生命，也贴上价签。
   没有一个社会能允许用市场化分配一切。

2. 政治分配的好处是较能反映民意，如果政治力量的对比产生自选票的话；但这也使得混乱成为现代社会常态：如果政府直接出面分配悲剧，那就成为社会价值观冲突的替罪羊；民意如潮汐，总在分配谁去承受悲剧的政府，无法长期稳定地获得民意支持。

3. 抽签把一切交给运气，看上去是绝对平等，但抹杀了被社会珍视的另外一些平等观：为什么不先救孩子？为什么不把机会让给那些有巨大贡献的人？而且，抽签撕下了面纱，让悲剧无法避免赤祼祼地摆到社会面前。社会其实不能承受这种真相。

4. 社会也用惯例、习俗、文化来掩盖对悲剧的分配，比如印度留存至今的种姓制度。可是，这种表面上无分配的分配有其代价：社会假装习以为常，披上虚伪面纱。

总而言之，没有一个单一的办法能够长期地解决问题，抽签、习俗、政府、市场。社会要保有道德自信，就得将悲剧的分配伪装起来。

即便如此，稀缺永恒，每个社会都在做六个杯子五个盖的腾挪，能玩就玩下去，玩不下去了，社会就只好重置游戏。

某个时段某个价值观占上风，直到它承载的负能量过多，终被另一个价值观所取代。风水轮流转。这是社会道德算法的跨时多元化策略，为相互冲突但都被珍视的基本价值观留下火种，并缓解冲击。

回到自动汽车的话题，不管用哪个算法，都必然将制造属于它特有的那一类悲剧，等到这些悲剧沉重到社会必须切换另一种悲剧来承受时，齿轮转动，算法重置，悲剧的分配重新开始。

版权说明

该文章灵感来源于得到课程《30天认知训练营-2018》第23篇，经作者重新整理思考后输出，主要用于更好的消化课程内容，文中存在摘录内容，如有侵权，请联系作者删除！