这是系列的第二文（前篇：阿西莫夫入坑指南）。
“机器人三大定律”是阿西莫夫最广为人知的成就，其具体表达是：
本文就三大定律谈谈自己的感想和受到的启发。三大定律无疑极有启发性，但同时也是不完美的——作为提出者的阿西莫夫对此非常了解，机器人系列故事的诸多剧情都是基于三定律的漏洞而展开的。如果从未接触过以上定律的，不妨先停下来，思考下其不完美体现在哪里？
以下是我对三定律存在的缺陷的理解：
1.抽象概念难以确切表达
比如“人类”这个概念，指的是一切符合人的体貌特征（尤其是五官特征）的对象吗？那么怎么区别人形的机器人呢？比如“危险”的概念，指的是物理伤害还是包括“心理伤害”呢？如果仅前者，势必会导致很多不愉快的情节发生，如果包含必然存在主观推断的心理因素，机器人如何保证判断的准确性，否则则违背第一定律或者第二定律了。最后，机器人维护的是人类当前的利益不受伤害，还是包括对人类未来利益的考量呢？这又引发更多问题了……
2.仅以三定律，机器人不足以自保。
只要有人命令机器人“自灭”，机器人在第二定律约束下就只能执行指令——因为第三定律弱于第二定律，同时也没有违背第一定律。只要有一群仇视机器人的自然人（尤其其指令里面包含“否则我很受伤”之类的言辞），机器人会不服从也会因为指令的冲突而受损，这样的体系根本无法有效运作——机器人作为一种生产工作和个人财产，必须得有效保障其正常运作的前提才行。三大定律本质是对机器人行为边界的界定，仅仅对机器人行为作出限制，是不足够让机器人作为人类社会的一种机制存在的。当然这一点并非不能防范，只是三大定律字面上未涉及而已。
3.如何让机器人按“价值序列”执行
A和B一个指东一个指西，机器人是比较哪个人跟自己的仆从关系紧密一点，还是比较哪个指令的迫切程度高一点，还是比较服从哪个指令增进的效用多一点或者减少的伤害多一点呢？阿西莫夫以“正子脑”的概念构成机器人运作的核心，而正子脑的科学原理是什么则没有谈及，事实上也没办法详述。正是没有详述所以使故事中的机器人具备了灵活性，能够在以上矛盾中以“电极强度”的方式进行权衡，产生电势较强的一方会驱动机器人的行为，完全相当的电势下，机器人会僵直不动，极端矛盾下甚至会宕机。如果未来我们的技术水平确实达到了能对机器人设置“元指令”的时候，该如何向机器人传达“价值序列”这一行为准则呢？
在三大定律的缺陷没有得到有效解决的情况下，艾西莫夫在《机器人与帝国》中进一步提出了“第零法则”——机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。这使机器人具备相当高自主性的原则，在故事中成为拯救地球人的关键，却也成为电影《我，机器人》中给人类带来浩劫的关键。
有了第零法则的启发，不少科幻作家机器人法则进行了补充，比如罗杰·克拉克，提出了“元原则”——机器人不得实施行为，除非该行为符合机器人原则，“繁殖原则”——机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。Lyuben Dilov提出“自辨原则”——机器人在任何情况下都必须确认自己是机器人。你觉得加上这些原则，机器人的运作系统就完整了吗？
当人类能创造智能机器人的时候，无异于成为了“上帝”一样的角色（在机器人世界面前）。而人类成为上帝的最大的一项困难可能就是“语言”因素。
我们心目中都十分清楚希望机器人给我们带来的是什么，但是如何将这一想法准确传达给机器人以便让他们满足人类是需要却极其困难，这意味着我们暂时（也可能是在很长时间里）缺乏一种能够跟“被造物”进行沟通的语言，这导致后者无法被创造，或者冒进地被创造出来将面对失控的局面。
举个例子（忘了来源了），略黑色幽默的“理发机器人”故事：世界上第一个高性能的机器人试验机被发明出来，它的元指令是“尽可能多地帮人们理发”，一开始人们排着队的来接受它的理发……直到所有人都已经理完之后，它需要继续执行指令，开始“逮捕”来被剃头者；为了更高效地完成理发，它将人类集中到一起圈养起来；为了提高自身的运作能力和抗打击能力（人类开展了反抗运动），它通过网络，不断升级自己的运算能力（不惜占用越来越多的有限资源，所有的网络资源都用于供应自身的运算）和制造暴力机器；为了完成更多的剃头，人类数量需要尽可能地增加，所以被圈养的人类不断被受孕和完成生育，为减少能量的损耗，并不能进行消耗能量的运动……感觉很荒谬啊，一切都是不完整的“元指令”导致的，如果有“三大定律”加持，就不会这样了？联系前面提到的三定律的缺陷，理发机器人怎么理解“不得伤害人类”呢，如果依照第零定律的优先服从“人类整体”而不是个体的利益，那么圈养人类是防止他们（我们）自灭的有效手段（限制人类的活动无疑能减少对生态的破坏、因意识形态/宗教之类原因导致的战争），那么就符合定律了，但是被圈养会让人的心理产生消极情绪、不幸福啊——那么，让人类充满积极情绪，尽可能地感受快乐和幸福也应该是机器人的考量了。我们快乐的感受是来自“多巴胺”的分泌，寻常生活里感受到的“快乐程度”是1的话，性交里感受到的大概是3，而通过致幻剂、神经毒品所取得的是100+，那么机器人不断通过电信号转化/生物化学试剂注射给人输入“快乐”，就不违背定律了。一切都在不具备任何“恶意”下发生，却比任何一个已然存在的恶棍所做的要恐怖得多。灾难是建立在不同物种的“沟通”问题上的，人类能对机器人制定规则，而后者会无条件接受和服从，但是我们有能力“表达”吗？
在思考机器人问题的时候，才感受到为什么历史学家将“语言”作为人类文明出现的标志之一……
网友评论