以自动驾驶汽车举例：你正坐在一辆自动驾驶汽车上玩手机，突然有两个小孩跑到马路上。此时自动驾驶汽车有三个选择
A向左打方向。这个选择会撞上对面来车，两车均会造成极大伤害，你可能会死。
B撞上两个小孩。两个小孩会死，而你可能没事。
C向右打方向。右边是几十米高悬崖，掉下去车毁人亡。
自动驾驶汽车要在短时间内（几秒甚至零点几秒）做出选择，所以切换成人工模式是不可能的，这必需由自动驾驶汽车自行判断处理。
做出这种判断有两种机制，一种是由程序预先设定优先级，别一种是由机器自行判断然后做出最优选择。
如果是第一种选择，程序预设优先级，不论哪一种选择是否都可认定为是有预谋的杀害，或是违背了公平原则。如果是由机器自行判断，模拟得像人一样根据现场情况随机选择，这是否又违背了我们设计这台机器的初衷。我们总是希望创造出来的设备有最优、最安全的性能。
这又让我想起了汽车刚兴起时的英国，为了生命安全曾经把汽车速度限制在30英里每小时内，但还是阻止不了交通事故的发生。这条规定最终也没有限制住汽车速度的不断飙升，30年后被迫取消。而汽车发明以来的数百年间，虽然安全技术得到极大的改进，但直到今天，仍然有无数生命死于交通事故，而人类对此已经习以为常。
人工智能的发展必定会带来更多的伦理问题，而人类阻止不了这些技术的发展，这是自然的发展规律，就想过去的工业革命，保守的农民阻止不了铁路的修建一样。人类总是在付出无数生命后找到人类与科技共处的平衡点，或是习惯于这种付出。我们总是会被科技带来的的好处所降服，比如你现在坐在舒服的汽车里，会去考虑今天有多少人死于交通事故吗？
网友评论