瞭望未来—机器人会拯救还是毁灭世界？

瞭望未来—机器人会拯救还是毁灭世界？

根据美国人口普查局的数据，2020年至2030年，全球65岁以上人口数量将首次超过5岁以下人口。发达国家的这一趋势正在加快，即使在欠发达国家，情况也是一样的。据美国智库人口资料局介绍，欠发达国家65岁以上人口的比例自1950年以来已经上升了50%，从4%上升到6%。在更发达的国家，65岁以上人口的比例从1950年的8%上升到2014年的16%，到2050年将上升到创纪录的26%。这些发达国家的生育率正在下降。这代表着老龄化的趋势，越来越少的人用医保和税收供养不断增加的老年退休人员。像日本这样的国家，退休人员和在职人员的比例将继续飙升，目前的纪录将被超越。这可能会给日本带来前所未有的重担：照顾老年人可能压倒所有经济和政治上的其他优先事项。因此，日本政府已经接受了用机器人照顾老人的想法。

日本用机器人解决不可避免的老龄化危机，这向我们昭示了一个让人不安的未来：老年人完全依赖机器人，人们不再投入大量精力照顾父母。这有悖于我们根深蒂固的有关孝顺和血缘的社会理想——我们要照顾那些在我们小时候保护和喂养我们的人。但是，这可能是维持经济的必要权衡，因为越来越少的劳动适龄人口将被分配到富有成效的工作岗位上。从核心上讲，这还涉及一个让人十分敏感的话题：把几乎所有的工作都交给机器人，我们是否会活得更好？机器人不仅可以成为赐予老龄化发达国家的恩典，也可以成为我们最好的朋友。

日本可能会青睐用机器人保护老年人，以此维持经济，但是现在正有一场更富争议的讨论，事关机器人的破坏性用途，会对人类造成巨大的影响。这场争议涉及我们是否应该允许人工智能机器人自主杀人。2015年7月，两万多人签署了一封公开信，呼吁在全球范围内禁止自主杀人机器。其中1000人是人工智能领域的研究人员和技术人员，包括埃隆·马斯克、斯蒂芬·霍金和史蒂夫·沃兹尼亚克。他们的理由很简单：一旦开始开发可以自主杀人的军事机器人，这项技术将遵循和其他技术一样的成本和能力曲线。在不久的将来，人工智能杀人机器将成为商品，很容易买到，每个独裁者、准军事集团和恐怖组织都可以获得。当然，独裁政府，甚至刚愎自用的民主政府，也可以用这些机器来控制、威胁民众。

除了军队机构的少数人以外，几乎每个人都会同意这一呼吁。即便雷·库兹韦尔都坚决反对编程时允许机器人在没有得到人类控制者许可的情况下杀人——他可能是你能找到的最支持机器人的人了。库兹韦尔认为，这样编程是违反道德的行为。还有其他反对者，比如机器人道德倡议组织Open RoboethicsInitiative的创始人文雅贞（AJungMoon，音译），她担心允许机器自主杀人会让我们滑向深渊，机器会超越内在程序的界限而自主行动。正如DeepMind在围棋棋盘上的表现，设计足够巧妙的机器人可能会有自己的想法，至少在它们已经掌握的规则和环境中是如此。自主致命武力的军事支持者认为，机器人在战场上可能比人更道德。如果程序规定不准射杀妇女和儿童，那么这样的机器人就不会被战争的压力击垮。支持者们表示，如果上战场的是机器人，那么就不会有美莱村屠杀了。他们还指出，程序逻辑具有极强的能力，能把核心道德问题变为二元判定问题。比如，机器人可能会在一秒内做出判断，与其救一名开车睡着的司机，不如救一辆满载儿童的校车。

这些想法很有趣，也不是完全没有根据。因为人类心灵的弱点和脆弱的情感，即使是最有经验的军人都可能在战火中暂时失去理智和道德。如果人类能够对机器人进行编程，使其免去这些弱点，那么人类是不是会更加道德呢？在很难辨别对手是否会遵循道德准绳的情况下，如果恐怖组织设计了具有战场优势的致命机器人怎么办？我们是否愿意冒险来开发这样的机器人呢？对此，我的看法可能有些愤世嫉俗。我认为，公众真的并没有那么在乎机器人是否被允许杀人，这个概念太抽象了。美国公众对于无人机是否应该配备自主射击装备从来就没有太大兴趣。事实上，人们对于机器人被用来杀人的问题基本不感兴趣，即使在美国也是如此。在达拉斯，警方把炸弹绑在机器人身上杀死了迈卡·布朗，据说此人在一次抗议集会上射杀了7名警察。很少有人质疑这种诉诸武力的方式。此外，第一个用于战场的自主机器人可能会离美国本土很远，比如阿富汗和巴基斯坦，就像无人机首次在战场上用于杀人一样。

Open RoboethicsInitiative倡议，应彻底禁止自主致命机器人，这一呼吁几乎得到了所有民权组织和许多政治家的支持。这个问题在未来几年内将会揭晓答案。看看联合国等全球管理机构最终会做出什么决定，看看美国军事机构的决定以及它们是否愿意在这个问题上签署国际协议，这些都会很有意思。（美国在军事领域拥有明显的优势，一贯拒绝有关军事技术的限制性条约。）

那么，如果一定要有结论，机器人的好处大于风险吗？如果是，那么我们如何减轻风险？时至今日，完全不让机器人渗透我们的社会已然是不可能的。Tug不会再回到箱子里。谷歌无人驾驶汽车，即为我们开车的机器人，已经上路，无法叫停。具有自动驾驶功能的特斯拉汽车已经在公路上行驶了无数英里。随着人工智能机器人的进步，其必然出现的能力将会催生我们意料不到的事情。最极端的风险是世界末日：机器人变得比我们聪明，它们将接管世界，使人类无力待在自己的星球上。

还有一个同样令人不安但更现实的风险，机器人将剥夺我们越来越多的工作。有些研究人员，比如麻省理工学院的埃里克·布莱恩约弗森（ErikBrynjolfsson）和安德鲁·麦卡菲（AndrewMcAfee）就认为，机器人正不可避免地吞噬越来越多有意义的工作。2013年9月，牛津大学的研究人员卡尔·本尼迪克特·弗雷（Carl BenediktFrey）和迈克尔·A.奥斯本（Michael A.Osborne）在一篇开创性的论文中指出，人工智能将使当前美国47%的工作“处于危险之中”，当时引起了极大的轰动。这篇名为《就业的未来》的论文就技术创新对劳动力市场和就业的影响做了严谨而详细的历史回顾。麦肯锡公司在最近的一份研究报告中表示：“利用当前的技术，只有大约5%的职业可以完全实现自动化。然而，在所有职业中，今天的技术可以使其中45%的有偿工作自动化。大约有60%的职业，至少30%的工作，可以实现自动化。”这份报告还指出，我们并不一定会因为单纯的自动化能力就做此选择。只要时薪10美元的厨师比快餐机器人便宜，餐饮服务工作就不可能被自动化取代。

另一个极端，即没有机器人，也是不现实的。老龄化的巨大泡沫可能会压垮大多数发达国家以及中国等许多发展中国家。无人驾驶汽车在未来几十年内将挽救数千万人的生命。更灵活、更智能的机器人将接管最危险的工作，比如采矿、消防、搜索和救援，以及检查高楼和通信塔。从这个角度来看，只要机器人不会获得我们最独特的能力，不会变得比我们聪明，我们就可以让机器人去完成那些我们做不好的事情。也许，这是一件好事。机器人护工从表面来看似乎是一种无情的选择，但相比老年人没人照顾或是年轻人经济压力过大，这实际上是富有同情心的选择。再进一步说，也许机器人会因为其所能产生的经济收益抢走我们的工作，但也会为我们带来巨大的益处，让我们有空闲时间做我们喜欢的事情。在我看来，这个问题的症结将是保持人类理解机器人的能力，防止机器人走得太远。谷歌正在考虑给它的人工智能系统建立自毁开关。

还有一些研究人员正在开发工具，让机器生成的算法中的代码实现可视化，这些算法是用深度学习系统建立的，普通人几乎看不懂其中的代码。所以，我们必须时刻都能肯定地回答这个问题：我们是否可以阻止机器人。在人工智能和机器人技术存在的今天，我们设计所有系统时都必须考虑到这一关键因素，即使这会降低系统和机器人的能力和特性。