马斯克和海伯利安

时间少得可怜，一部《海伯利安》看了两个月才刚刚读完。这部1990年发表的科幻小说中有许多在二十多年后的今天才开始渐渐露出端倪的科技幻想，让人兴奋得热血沸腾。如果说《海伯利安》中有什么反派的话，技术内核（起源于人工智能）绝对是第一个。

刚好前几天一个人的一句话被业界翻来覆去地说：

马斯克再次警告：机器人会杀死人类。

于是对人工智能（AI）的讨论再次喧嚣尘上，人们对AI的种种挟带着莫名兴奋的复杂情绪再次翻滚在互联网上的字里行间。

也许是从人们发现下棋这种活动机器会略胜一筹开始，很可能更早，人类许多事情开始试图依赖人造物，物联网、大数据都是在这一趋势下的产物，——信息领域里有不计其数的论文在述说人们的行为错误率多么高，因而需要引进多么可靠的信息系统。

从前几年开始，大数据更是大行其道。在行业中哪个企业不扯上跟大数据的些许关系，就好像一流剑客在ISIS营地没有带现代武器一样。人们越来越爱说，有了这个，机器能够告诉我们什么；有了那个，机器能够智能解决怎样的问题。

人们一边放肆地发展着这些人造物的智商，一边沉浸在它们将可能脱离自己控制的假想中，用计算能力有限的人脑思考潜在的危险。

就像马斯克，——如果不是炒作的话。

（是炒作的话，真是太对不起那个自负臭屁的Tony Stark原型的名头了。）

但其实，马斯克语境中和海伯利安中的人工智能完全是两种“危险”。

前者的“危险”之处在于太傻，或者说太轴。

根据马斯克，“设想机器人的功能是删除垃圾邮件，如果有一天机器人觉得删除垃圾邮件的最好办法就是把人类一起干掉，这可怎么办。”这种假设已经出现过各种不同的版本，总结下来就是，人类被绕进自己所设置的任务中去，成为机器人完成任务所必须除掉的障碍。比如，要获得“尽可能多”的铁，比如，除去所有带病毒的物质……

要解决这类潜在的威胁，以我杯水车薪的智商，只需要设置合适的停止机制即可。就好像火车，有一个大过一切的紧急制动按钮，再或者，就好像学生寝室管理的大杀器“断电”一样，设置一个能够切断所有能源的紧急预案，我就不信这些人工智能还能玩出花来？

而在海伯利安的庞大环网中，——好歹又发展了好几千年，人工智能远不是如此一根筋的思维方式。在那个世界中，人工智能不仅已经脱离了人类，以伙伴的身份提供咨询和帮助，最糟糕的是，它们为人类提供人们无法理解或者解析清楚的技术产品（远距离传输器）。它们在自己的体系中，还分裂出了稳定派、反复派与终极派，——这多半来自学习人类的恶果，因此人类还得以在寰宇中生存繁衍，却越来越像是没有讨价还价资格和还手能力的脆弱人质。

他们的危险之处自然是在于，太精。

消灭人类？当人工智能足够聪明的情况下，我想这不会是它们的选择。

因为这个命题对AI而言，并没有什么特别的吸引力。当这个可选项进入视野后，它们会计算消灭人类与否两种行动的各种影响、后果以及后果的后果，后果的后果的后果……从而做出自己的选择，就好像在下一盘很大的棋。

对这盘棋而言，“消灭人类”这一步相当于一着险棋，会带来难以计数的风险，只适合被逼入死角或是急于求胜的情况；当机器并没有“断电”风险的情况下，没有理由如此激进。

换句话说，我觉得无论是哪种情况下的AI叛变（或抽风），人类作为一个种族基本是安全的。

当然对于个人而言情况要复杂一些：当AI渐渐在各方面领先人类时，也许某些人会率先觉醒，也会有些人浑然不觉，把统治当成服侍，把歌舞升平的人质生活过得有声有色。也有些人会俯首称臣，——在AI取得实质性控制权的过程中，部分人类内奸的配合也很重要。

是啊，只要有人类，就会有奸细，有懒虫，有优柔的傻瓜，有抑郁的诗人，有咬牙切齿的复仇者，有满腔阿Q精神的宽恕者，这些奇奇怪怪的角色。

机器学得会下棋，学得会决策，甚至可以模拟情感，它们学得会做这些奇奇怪怪的角色吗？

只要学不会，我想AI对于人类就还算安全，人类还是栽在自己人手里的可能性更大一些。