《失控》

在2000年之前，人工智能还更多地停留在科学概念和试验的阶段，大众对人工智能和机器人的认识，也仅仅停留在科幻小说的层面。

很少有人认真想过，人工智能究竟是怎么一回事，在并不遥远的未来，它又会对我们的生活造成哪些影响。

但就在过去10年间，人工智能技术取得了一系列重要突破，逐渐从幕后走向台前，走进了我们的日常生活。

2016年，由谷歌工程师制造的“阿尔法狗”，在围棋人机大战中，以压倒性优势打败了多位世界级大师，包括韩国的李世石和中国的柯洁。

柯洁在落败后曾坦言说，和阿尔法狗对弈的时候，自己根本找不到机会，只感到冰冷和绝望。在他看来，阿尔法狗简直就像围棋里的上帝。

一位人工智能研究专家指出，阿尔法狗诞生之初，先是大量学习和模仿人类的棋谱。

但它后来主要是通过自我对弈，利用增强学习的能力去应对各种局面。这样一来，它就摆脱了人类对于围棋认知存在的局限性，有能力接近甚至达到围棋本身的最优策略。

可以说，是远超人类的学习能力和学习速度，让人工智能在围棋领域打破了人们传统的认知范畴。

现在，人工智能在单一领域内的优势已经无可争辩，它正向着多领域复合的方向极速发展。

此时我们不禁要问，人工智能究竟是怎么生成的？它能算是有“生命”的吗？大脑的意识如何从复杂的神经网络里涌现？在未来，全球互联网和机器会产生智慧吗？届时，人类又该走向何方？

早在1994年，美国未来学家凯文·凯利就写了《失控》这本书，从生物学的角度阐述了自己对科技、社会和经济问题的思考。

很多我们今天所熟知的东西，比如云计算、物联网、虚拟现实、网络社区、网络经济、协作双赢、电子货币，等等，早在早在二十多年前，凯文·凯利就在这本书中提及了。

书中的很多观点和见解，直到现在依然新颖。

1999年，《失控》被列为《黑客帝国》演员必须阅读的三本书之一，凯文·凯利也随之名声大噪，被誉为“硅谷精神导师”，在国内，他更是受到张小龙，马化腾、雷军等互联网大佬的推崇。

接下来，我将为大家解读《失控》这本书的精华内容。

你将听到，冷冰冰的机器是怎样像生物一样产生心智，变成“活系统”的；

你还会听到，从自然进化到人工进化，进化是怎样塑造着我们的未来；

最重要的是，我将向你阐述，为了应对不可预知的未来，人类应该遵循哪些游戏规则。

下面就让我们开始这本书的分享吧！

01

机器是怎样产生心智，变成“活系统”的

凯文·凯利曾养过很多年蜜蜂，在他看来，这些不起眼的小昆虫身上，却藏着世界的大奥秘。他在《失控》这本书的开头，就向我们讲述了蜜蜂搬家的过程。

很多人觉得，蜜蜂都是听蜂后的指挥，蜂后说到哪里去，蜂群就整齐划一地飞往那个地方筑巢安家。

其实不然，凯文告诉我们，如果一个蜂群打算换个地方筑巢，首先会派出五六只工蜂四处寻找合适的地点，这几名侦查员回来后，会用舞蹈的方式向整个蜂群传达自己的见闻。

随后，其他蜜蜂也会根据自己的喜好，分别跟着不同的侦查员去查看。如果它们也觉得那个地方不错，也会回来一起跳舞，进而吸引更多蜜蜂去看。

渐渐地，越来越多的蜜蜂汇聚到这场舞会里，而最大的蜂群将成为舞曲终章的主宰，挟带着蜂后和雷鸣般的嗡嗡声，向着群体确定的目标飞去。

在整个过程中，蜂后什么都没有做，最终的决定完全“是蜂群选择的”，没有任何一只蜜蜂做出“最终决定”，但所有蜜蜂几乎都参与了决定。

凯文将这种现象称为蜂群思维。

他认为，当许多独立的蜜蜂个体高度连接，就会形成一个具备生物属性的“活系统”，也就是我们所看到的蜂群。

其神奇之处在于，没有一只蜜蜂在控制它，但却有一只看不见的手，一只从大量愚钝的成员中涌现出来的手，控制着整个群体。

图片20.jpg

凯文将蜜蜂汇聚成蜂群的过程称为“涌现”。

这个词的意思是说，系统中的每一个个体都遵循简单的规则，但当个体的数量达到一定程度，并通过局部的相互作用构成一个整体系统的时候，就会出现一些新的属性和规律。

蜜蜂是如此，蚂蚁也是如此。

那么，当大量愚笨的个体汇聚在一起时，为什么会涌现出拥有高度智慧的“活系统”呢？这就要从复杂系统的构建方式说起了。

大家可以思考一下，如果让你用大量简单的元件，构建一个复杂系统，你都能想到哪些方法呢？

凯文告诉我们，构建复杂系统的方法可以归为两类。

一种方法是像工厂里的装配流水线一样，按照顺序操作的思路来构建系统，大多数机械系统遵循的都是这种构建逻辑，例如钟表、汽车。

而另外一种方法则是以并行运作的方式，把大量部件拼接在一起，就像大脑的神经元网络一样，其中，任意一个部件的某个特定动作，都会传递到整个系统，系统显露在外的，也不再是某一个体的局部表现，而是众多个体的同步动作。

凯文将这种系统称为“分布式系统”。小到蜂群和蚁群，大到信息互联网，都是用分布式系统搭建起来的。

图片145.jpg

书中以现代国家为例，向我们说明了分布式系统运行的方式。

我们知道，最基层的政府组织是乡镇，它具有整修街道、敷设水电管道、提供照明等职能，当我们有了一些运转良好的乡镇，就可以设立郡县，在郡县的范围内开设法院、监狱和学校，这样，就在乡镇的层级上增加了一层复杂度。

等郡县的数量多了，还可以增加州府这一层级，负责收税和协调等事务。随着州府数量的增加，我们就可以继续添加中央政府，对州府的行为作出限制，并承担州府之间的协调组织工作。

假如中央政府消失了，千百个乡镇仍会继续承担自己的地方性事务。

但当所有乡镇被郡县、州府乃至中央政府所包容时，将显示出更强大的社会组织职能，在开展建设、实施教育、执行管理、繁荣经济方面，都会做得比独自运作时好许多。

由此可见，分布式系统具有适应性较强、可以持续进化，拥有无限可能性等诸多优点，但它也有一个“弊端”，那就是结果无法预测。

对于线性的机械系统，我们能弄清它们运作的原理，你知道，把米和水放进电饭锅并按下开关，会得到一锅香喷喷的米饭，闹钟到设定好的时间会整点报时，把原材料放在机床上，它会被加工成人们想要的样子。

但对于非线性的分布式系统而言，我们就没办法预测它的行动规律了。

假如我们改变了系统中的某个因素，它会间接影响其他一切因素，反过来，其他因素也会间接影响这个因素，这样一来，我们就没办法推算出整个系统会朝着什么方向运行。这就是凯文所说的“失控”。

不过，在这本书里，“失控”并不是个贬义词，也不意味着机器和人工智能将脱离人类的掌控，甚至反过来威胁人类自己。

图片23.jpg

凯文的本意是说，随着人类的发明从线性的、可预知的的机械装置，转向纵横交错、不可预测的生命系统，人们需要改变自己对机器的期望。

比方说，农业专家并不需要确切地知道每一个西红柿的细胞是如何工作的，也能够种植、食用、甚至改良西红柿。

同样，计算机专家不需要确切地知道一个大规模计算系统是如何工作的，也能够建造和使用它，并让它变得更加完美。

每一个西红柿细胞都承担着自己那部分工作，把所有西红柿细胞合到一起，就成了一个完整的、酸甜可口的西红柿，这就是“活系统”的运行规则，凯文管它叫“生物逻辑”。

除了生物逻辑之外，没有任何一种逻辑能够让我们组装出一台拥有思想的设备。

每一个单独的生物个体内，都有一大群非生物的东西。

将来有一天，每一台单独的机器内，也会有一大群非机械的东西。

如果我们把这些东西组合在一起，就能构建出一个大规模计算系统、一个高级人工智能，甚至是整个信息互联网，这就是模仿“生物逻辑”制造出来的“人工逻辑”。

从本质上说，下赢了世界冠军的阿尔法狗，与一群蜜蜂、一群蚂蚁是一样的，支撑它们运行的基石，都是些微不足道的小东西。

其本身并没有什么意义，但当无数小东西汇聚成群，并通过分布式系统进行链接和交互，就会涌现出非凡的意义。

就这样，人造的机器与自然的生命体奇妙地联系起来了，在可预见的未来，人类的科学技术指向的，并不是一个灰色冰冷的钢铁世界，而是一种新生物文明。

正如凯文在书中所写的那样：“机器，正在生物化；而生物，正在工程化。”

02从自然进化到人工进化，进化塑造着我们的未来

1983年，微生物学家朱利安·亚当斯在培养大肠杆菌的时候，意外地发现，如果将同一种类的菌群放入一个特制的恒温器，并给它们提供一个均匀一致的生长环境，然后让这些一模一样的细菌不断繁殖下去。

经过大概400代的裂变之后，这个细菌族群的基因发生了明显变异，并孕育出了新的菌株。

这就是说，即便处于恒常不变的环境中，生命也会自发地走向多样化。这就是自然进化的美妙之处。

有趣的是，进化并非自然生命的专属，人工生命也同样具有进化的能力。

比方说，电脑病毒的本质就是几行代码，但它们一旦以互联网为媒介，传播到其他电脑里，就会迅速进行自我复制和变异，快速进化出一大群能躲过杀毒软件的病毒变种。

这种进化形式与细菌极为相似，因此，一位人工智能研究员感慨地说：“想要得到和生命真正类似的行为，不是设法创造出真正复杂的生物，而是给简单的生物提供一个极其丰饶的变异环境。”

在机械制造乃至更高级的人工智能领域，有一条很经典的规则：复杂的机器必定是逐步完善而成的。

别指望通过一次华丽的组装，就能制造出一个能正常运作的机械系统。你必须先制作一个可运行的系统，再以此为平台，研制你真正想完成的系统。

就拿阿尔法狗来说吧，它也是经过了多次进化，才拥有碾压人类棋手的实力。

最初版本的阿尔法狗诞生于2015年，甫一出世就击败了欧洲围棋冠军樊麾二段。但这个版本的阿尔法狗，实力还不足以挑战亚洲棋坛。

一年之后，谷歌公司又推出了第二版阿尔法狗，并以4-1的大比分击败了韩国棋王李世石。

几个月后，再次升级的第三版阿尔法狗，在网络上大发英雄帖，接受世界各地围棋高手的挑战，并取得了60胜0负的惊人成绩，就连公认的“世界围棋第一人”柯洁，也被其3-0斩于马下。

如今，阿尔法狗已经升级到第四个版本，谷歌公司给最新版的阿尔法狗加入了自主学习的功能，让它从零开始，通过“左右互搏”的方式磨炼围棋技巧。

经过一段时间的学习，这款被命名为“阿尔法零”的人工智能，与曾击败柯洁的第三版阿尔法狗连续对弈100局，取得了89胜11负的压倒性战绩。

由此可见，通过自主学习和不断进化，人工智能将拥有无限的成长性。

一亿年以前，恐龙是站在食物链最顶端的“地球霸主”，但恐怕它们完全想象不到，那些不起眼的哺乳类动物，未来会进化成更具智慧的高级生物。

从这个角度来看，我们又真的能确定，人类自己就是生命进化的最终形态吗？

凯文在书中提到，进化是多维度的，当人类在进化的时候，其他物种可能也在进化，甚至进化得更适合未来的地球。

这个物种会是什么呢？也许是某种不起眼的小昆虫，例如蜜蜂、蟑螂，也许是越来越智能化的机器人。

在凯文看来，后者的可能性更大。

图片150.jpg

随着人工智能的不断进化，未来的机器人将变得越来越智能化，也许在不久的将来，人类只需要躺在床上，一边享受着声色犬马的快乐，一边指挥机器人为自己做任何事情。

不过，无限进化的代价就是失控。那些由人类制造出来的“超进化体”，最终会脱离人类的控制，按照自己的性格持续发展下去。

也许我们觉得是人类创造了机器人，但随着机器人变得越来越聪明，说不定会反过来利用人类的制造能力，最终进化出一个全新的机械文明。

正如凯文在书中所说：“我们在将生命的力量释放到所创造的机器中的同时，也失去了对它们的控制。”

但凯文向我们描绘的未来，并不是机器人主宰世界的黑暗梦魇，在他看来，那些被人类赋予了生命的机器，还是会间接地接受我们的影响和指导，只不过脱离了我们的支配而已。

他把未来的人机关系比喻成“放牧”：“当我们放牧一群羊的时候，我们知道自己不具有完全的权威，但我们也并非全无控制。”

03面对不可预知的未来，人类应当遵循哪些游戏规则

大自然从无到有，进化出形形色色的生命，而后，人类又从自然进化中学到经验，踏入了人工进化的门径。

那么，未来的世界将变成什么样子呢？

或许，我们能看到变异的建筑、脱机进化的软件程序、自适应的车辆、能治病的人造生物病毒、半机械身体部件、定制的粮食作物、模拟的人格，以及由不断变化的计算设备组成的巨型生态系统。

想在未来的时代里生存，我们需要学习和遵循哪些游戏规则呢？凯文从计算机科学和生物研究的最前沿成果中，为我们提取出了九条重要的规律。

第一条规律叫做“分布式”。

我们所能发现的最有趣的奇迹——生命、智力、进化，无论是蜂群意识、经济体行为，还是超级人工智能的思维，都分布在众多微小的单元上。

比方说，我们常用的打车软件，并没有一个统一指挥的“调度中心”，而是依赖简单的规则，和海量的用户，自发运作起来的。

反之，如果一个企业高度依靠CEO的个人魅力，CEO一离任就开始走下坡路，那就属于典型的“中心化病”。从这个角度来说，未来的时代将更加提倡“去中心化”。

第二条规律叫做“自下而上的控制”。

当分布式系统建立起来后，我们应该尽量使系统内的层级扁平化，让系统自下而上地自发运行，而不是自上而下地指挥安排。

蜂群和蚁群就属于典型的“自下而上”的系统，每只蜜蜂和蚂蚁，都拥有一定程度的决策自由权，不必凡事听命于蜂后和蚁后的指挥。

正因如此，这些微小的生物聚合在一起后，才形成了更高明的群体智慧。人工智能也是如此，一台拥有中央处理器的的高级机器人，未必能比一大群通过分布式结构运行的小型机器人做得更好。

第三条规律叫做“递增收益”。

这条规律的意思是，每当我们使用一个想法、一种语言或者一项技能时，都是在强化它、巩固它，使它变得更加熟练和有用。

股神巴菲特经常说的“滚雪球”理论，以及《马太福音》里说的：“凡有的，还要给他更多。”都符合“递增收益”的规律。

这一定律在经济学、生物学、计算机科学以及人类心理学中，都起到不容忽视的作用，值得我们深思。

第四条规律叫做“模块化生长”。

凯文告诉我们，想创造一个能运转的复杂系统，唯一途径就是先从一个能运转的简单系统开始，如果我们试图一步到位，直接创造一个高度复杂的组织，比如人工智能或市场经济，那注定会走向失败。

反之，如果我们先打造出多个简单且能独立运作的模块，然后再把它们连接成不同的层级，让这些“模块”和“层级”之间既有共通的运行原则，又保持各自的独立性，才能真正制造出一个可以顺利运行的复杂系统。

第五条规律叫做“边界最大化”。

一个多样化的世界，必须有足够丰富的差异化。如果在一个群体里，存在许多个性迥异的个体，那么，这个群体内部每天都会发生许多微小的变革，从而让整个群体更好地适应世界。

反之，如果一个群体里的所有成员都高度一致，毫无差异性，那这个群体注定没有强大的生命力，很快就会走上衰退的道路。

管理学中有个概念叫做“鲶鱼效应”，是说在鱼塘里放入一只鲶鱼，能更好地激发鱼群的活力，说的也是这个道理。

第六条规律叫做“鼓励犯错误”。

如果我们想超越自我、超越现状，就需要想出新的游戏规则，或是开创新的领域。

但创新永远伴随着犯错，如果每个人都因为害怕犯错，而停止创新，那就等于因噎废食，整个社会也会陷入停滞，变得死气沉沉。

英国诗人威廉·布莱克曾说：“犯错和越轨，皆为上帝之安排。”社会应当在一定范围之内，鼓励人们大胆试错，唯有如此，才能激发创新的活力。

第七条规律叫做“不求最优化，但求多目标”。

在一个复杂的系统中，许多互相关联的因素紧紧纠缠在一起，我们很难搞清楚究竟哪个因素对系统起到的作用更大，因此，与其费劲将某一个功能最优化，倒不如使多数功能“足够好”，这才是大型系统的生存之道。

第八条规律叫做“谋求持久的不均衡态”。

凯文告诉我们，静止不变和过于剧烈的变化，都无益于创造。好的创造就像一曲优美的爵士乐，不仅要有平稳的旋律，还要不时地爆发出激昂的音节。

企业、社会和国家也是如此，假如一家企业长期处于平稳运行的状态，不思改变，就会慢慢衰落，曾经垄断手机市场的巨无霸诺基亚，不就是这样倒闭的吗？

因此，我们需要让系统处于持久的不均衡态，就像是在永不停歇的大海中冲浪，让系统始终保持创新和活力。

第九条规律叫做“变自生变”。

这条规律是说，在一个大型复杂系统中，处在底层的相互作用的因素，有可能在运行期间改变系统运行的规则。

而随着时间的推移，那些使系统产生变化的规则自身，也会产生变化，进而引起系统的再一次变革。换句话说，规则本身就是用来打破的，想在充满变化的未来立足，你就必须拥有自我变革的能力。

凯文把以上这九条规律统称为“九律”，在生物进化、“模拟城市”等各式各样的系统中，都能发现它们的身影。可以说，“九律”既是自然界最底层的运行规律，也是人工智能时代不可或缺的高级思维。

今天的世界已经足够复杂了，但明天的一切将会变得更加复杂。不过，只要我们能领悟凯文提出的这九条规律，就能更好地适应即将到来的新时代。

好了，到这里，这本书的内容，我们就介绍得差不多了，我们主要从三个方面进行了学习，现在我再来为你总结一下：

首先，我们知道了，当许多独立的蜜蜂个体高度连接，就会形成一个具备生物属性的“活系统”。从本质上说，人工智能的运行方式与蜂群是一样的，支撑它们运行的基石，都是些微不足道的小东西，它们本身并没有什么意义，但当无数小东西汇聚成群，并通过分布式系统进行链接和交互，就会涌现出非凡的意义，诞生出奇妙的智慧。

然后，我们了解到，进化并非自然生命的专属，人工生命也同样具有进化的能力。通过自主学习和不断进化，人工智能将拥有无限的成长性，甚至可能会脱离人类的控制，按照自己的性格持续发展下去。但凯文认为，它们最终还是会间接地接受我们的影响和指导，只不过脱离了人类的支配而已。

最后，我们讲述了，凯文从计算机科学和生物研究的最前沿成果中，为我们提取出了九条重要的规律，包括分布式、自下而上的控制、递增收益、模块化生长、边界最大化、鼓励犯错误、不求最优化，但求多目标、谋求持久的不均衡态，以及变自生变。

可以说，凯文提出的“九律”，是人工智能时代最具代表性的通则，也是《失控》这本书中最精华的东西，只要我们能真正吃透这些规律，就能在即将到来的新时代里，有如神助一般无往而不利。