《失控》读书笔记

这是我有史以来写得最长的一篇书评。因为《失控》太特么厚了。厚到有网友说，如果足够努力，也许等特朗普女儿当上总统的时候，就能读完了。同样难逃科学工作者文笔不好的特点。本书架构合理、逻辑严谨、论点清晰，但就是读起来枯燥无比。如果让一位作家来写，也许只需要三分之一的篇幅。不过虽然枯燥，所表达的思想还是令人叹为观止。这本诞生于1994年的书，竟然至今仍在被验证其观点的前瞻性。我们身边近几十年来发生的种种变化（科技融入生活方面），被其大把大把的预言。仿佛KK曾经穿越过。所以很多人形容他是手按着水晶球在写书。

他从蜂群写起，引出分布式管理和互联网模式。令人联想到了人脑的工作原理、区块链、人工智能的套嵌层级和反馈机制。不难想见，人工智能的未来和人类社会的未来，一定会是这种分布式、去中心化、自组织的“活系统”。高等智慧只能诞生于“群”和“联结”之间。

去中心化分布式系统是孕育着无限可能的拓扑结构。链式、金字塔式、树形、圆形、星形都只能做有限的变换和拓展。去中心化的结构由于没有局限，可以形成任意形状，在任意位置容纳任意个数的新个体。群体内的连结也可以随意打断重建。社群中唯一符合这种特征的就是网络。而生命体内，同样具有这种结构。

人们一直认为人脑应该是一个高精度和高逻辑性的器官。对每一个外部信号的接收和输出都应该是非常精准和高度发达的。但在对机器自主决策的研究过程中，科学家反而联想到了大脑的工作机制，可能完全不是以前所认为的样子。

首先，记忆是分布式的。比如，我们看到一个场景：一位长腿美女坐在窗边喝咖啡。我们的大脑并非照相机一样把这个场景拍摄下来储存。而是会把图像拆分。女人、美、腿长、坐着、窗边、喝、咖啡。这些元素会散开，储存在不同的区域或细胞中。第二天回忆时，会有一个非常松散的逻辑链把它们重新提取出来，组成图像。在提取过程中，往往会在相关联记忆的影响下发生变形。她的相貌有可能更像一个你熟悉的女子，比如你暗恋多年的淑芬。腿可能比实际更长，因为你特别喜欢这点。窗外是霞光满天。实际根本没有，但某个印象深刻的广告片就是这样。无论再怎样精确，回忆中的事情与实际总会有所不同。以至于，人类有些记忆，完全扭曲，它会变成你希望的样子。甚至把幻想出来的场景当作真实记忆。

其次，大脑做的每个决策，并非是这个器官整体作出的。大脑有上百亿的神经元，每一个神经元都下达了指令吗？当然不是，神经元们各司其责，组成决策单元，对不同的情景有不同分工。每个神经元自身能决策的逻辑是非常简单的。单独拿出一个脑细胞来看，它就是个低能儿。如果彼此之间没有联系，那你这个人只等同于几百亿个低能儿傻坐在一个屋子里而已。举止怪异，神经兮兮。但当这些低等逻辑彼此联络、叠加、相互反馈之后，高等智能就“涌现”了。它不是百亿个脑细胞相加，而是上百亿个节点进行逻辑链的排列组合，会生成无限可能。而你的每一个决策，看似清晰而坚定。事实上是百万个脑细胞集体决策的结果。在该决策生成的同时，还有不知道多少的相反决策、混乱决策、不相干决策生成。但它们对最终决策的影响较小，被主决策否决了。如果你是个经常“拿不定主意”的人，很可能就是多种决策势均力敌导致的。人脑决策，就在这种微混沌状态下，由大量脑细胞集群“民主”做出。

因此科学家发现，如果想提升人工智能的脑力。在算法的复杂度上钻研，也许是事倍功半的做法。把大量的低级算法链接起来，形成自下而上的群体决策，才会真正实现人工智能。我们需要的不是一台高精度、高算力的巨型电脑。几万台286的老古董链接起来，也许能从中涌现出具有一定人类思维的现象。

联想到很多科学家在开发“聪明药”，根据上面的推想。增加脑细胞总数（百亿已经足够多了）、加强脑细胞连接（只会造成精神类疾病）都不是正确方向。只有一个思路，就是将更多的沉睡神经元唤醒，让它们参与到决策中。这样既增加了集群决策的变数和可靠性，又不会对已唤醒的神经元造成过大负担。所以智商这种东西真不是可以训练的。它的根本，在于你大脑中活跃脑细胞的总数。但记忆却可以强化。它的原理是分布式储存，只要能将各要素之间的松散逻辑打造成强逻辑，在回忆时，就会更精准。很多扑克牌记忆高手会告诉你这个秘密。他们在记整副打乱的牌时，会将数字分组，组内的数字之间会编一个故事，组与组之间也用故事链接。因此在提取时，就很难遗漏和变形。而在最强大脑节目中出现的很多摄像机一般的记忆大师。需要肯定他们的脑存储方式绝对比我们更强大，但也要指出，他们的创造力也许会非常差。因为他们的脑细胞可能在集群能力上相当不佳。所以才产生了这种硬盘一样的大脑。但也确实有些大脑，那真的是外星人。其实只要多唤醒5%的神经元。就足以碾压地球上所有生物了。

发散一下，什么是区块链？它的本质是去中心化分布式储存结构。将数据分散储存到不同的柜子里，用彼此信任的加密算法重新提取。这完全就是在对人脑记忆原理的仿生学应用。

在对机器做自主操控的研究中，人们也发现，一个具有强大中枢的机器，可能既笨重又迟钝。但如果把决策单元分散，稍微构建几个套嵌层级结构，效果令人惊叹。比如，一只八脚机器蜘蛛。如果把脚尖的感应器信号，只上传至关节处，由它来判断这条腿该抬多高。其他的腿和身体完全不需要感知该信号。躯干处的感应器负责判断身体是否水平，前进是否受阻。从而协调另外几条腿的速度和扭转方向。科学家发现，这种将决策层层剥离，由底层逐级反馈上来的结构，会让整体反应速度更快，判断更准确，能耗更低。这就好比是人类的政府机构。村、镇、县一级有最基层的行政使命，可以在政令范围内自行处置，不需要中央对每件小事做指示。市、省一级也要统领更大的辖区做更高级的建设工作。中央主抓宏观和全国资源统筹。各部门行使不同职能，具有层级关系。这种结构中，最底层是最重要的。中央不下达命令，村里一样可以自治几百年。但如果没有了村镇一级，中央也就无人可领导。而离开国家，又只能停留在低层次的社会水平。在智能机器的发展中，这种各模块分工协作的结构又是对社会层级的一种模仿。

在上述结构下，我们很容易发现，只有当机器与环境发生互动时，各模块之间才会有潮水一般的数据流动。呈现出具有高度智能的行为。当不与环境互动时，比如将其所有腿都捆住，数据将变得单调而无效。智能行为也就消失了。科学家反观人类心智，有了很多有趣的发现。比如曾经在科幻中出现的设想。人类是否可以将大脑浸泡在营养液中，令其脱离肢体而保持原有状态？经过一系列研究发现，完全不可行。当没有外界信号输入时，智能会逐渐消沉归于平寂。但像人脑这种高度复杂的器官，并不甘于此。它会出现令人诡异的心智错乱。相关的操控区域会幻想自己仍拥有肢体。当其他区域与之确认行为边界时，它们会虚构不存在的信号。举例来说，如果你有手，当你去推一堵墙，手会告诉大脑根本推不动。但如果你的大脑脱离肉身，它会想象自己有一只手，并能推倒一切，因为没有外界信号反馈回来告诉你什么能做什么不能做。你的大脑就会在这些不存在的信号之间陷入各种幻觉，进而吞噬自己。有一种疾病叫“黑盲性精神错乱”就是这种机理。人工智能的神经网络在此处高度相似，没有“身体”的人工智能具有“暴走”和“自毁”的天性。

当作者提及生物种群之间，如涟漪一般的相互影响时，你真的会不自觉倾向于相信盖雅理论。种群不仅依靠环境繁衍，也在改造环境。非生命物质随时会参与到生命中，生命也随时会重新归于环境。没有什么是独立存在的，放眼千万年去看，地球成了一个巨大的细胞。它身体的每一处都像处在一个变幻的电网中，各节点此消彼长的传递着物质与信息。很多生物学家激烈的反对盖雅论。因为它把生命与非生命的界线弄得十分模糊。但反思一下。生命体的界线真的很清晰吗？我们每呼出一口气，就有很多水分析出，它们前一秒还归生命体所有，后一秒就归于环境。你能分清体内哪一个水分子在哪一秒属于这个生命吗？以什么为标准？失去水，我们一定会终止生命，但体内总有些水，是什么都没参与的，它只是在里面走个过场。它属不属于生命？如果不属于，这个界线就更加模糊。如果属于，我们应当以细胞膜为界、以血管壁为界、以消化道为界、还是呼吸道为界？如果我用嘴咬住一截绳子，是不是在我嘴里的绳子就成为了生命体？如果你了解细胞的内部构造，会发现它就像个小城镇。细胞器要靠细胞液里丰富的矿物和原材料工作。这与自然界太像了。所以盖雅理论，还真的没那么离谱。不过传统生命体在高组织性和完美复制方面异常发达。整个生态群落却松散、易变。它们当然会有很多差别。

随后KK谈到了生态圈、封闭系统、自动化系统、工业生态学、网络经济学。用不多的篇幅，奠定了他互联网教父的地位。他通过对生物学上的“群”、和人工智能的思考，对未来做出了各种大胆预测。居然准确得难以置信。他在书末重点论述了预测未来的复杂性，各种模型的不可靠性。结果自己预测得竟然如此令人五体投地。说到底，他的预测还是一种主观上定性的预测。但也令人不自觉的猜测，如今世界上的互联网大鳄们，是不是都读过KK的书。因为他所描述的未来，被姓马的实现了好多。还有很多必然会在将来应验的，比如：区块链技术、加密的无政府社会、超现实、闭环经济体、人工智能生命集群等。

我是生物专业出身。当KK大篇幅重点论述进化论时，我无法不佩服他学识的渊博。因为他不仅探讨了经典的达尔文进化论，还结合了进化遗传学、拉马克学说、跳变论、后达尔文主义等等。由此来思考物种的进化，进而去思考如何让人工生命更快的进化出高等智能。

向朋友们声明，我不是科学家，只是上过不少专业课。很多人声称进化论合理，但他们大多数只知道“基因突变”、“自然选择”、“适者生存”、“用进废退”这几个词。自己推测出它们的含义，甚至都不知道这些词来自两种不同的进化论猜想，就成为了坚定的进化论卫士。还特别喜欢跟人辩论，辩不了两句就骂人。同时又特爱把进化论与社会科学、人文科学、经济学胡乱结合，一副万宗归一大彻大悟的样子。关于进化论，我以生物科班出身告诉朋友们。那只是个相当不成熟的猜想。不展开，只谈几点：

1、DNA的工作机理是将基因片段有计划性的转化为蛋白质结构。准确表达，才能保证功能正常。并非简单的A作用于B，C作用于D。往往是成千上万个基因片段相互影响。就像一台车，你把图纸上的一颗螺丝抹掉。造出来后的大概率事件会是车毁人亡。而最简单的病毒都要比汽车复杂得多。绝大部份基因突变都会导致死亡。可有可无的突变大部分会被自我纠正。极个别纠正不了的可以保留，但大部分会在遗传过程中消失。

2、DNA复制的最重要原则是尽可能复制自己，而不是改变自己。除非暴露在超剂量的辐射、化学等因素影响。否则它们会倾向于完美复制。自然界中的超剂量辐射和化学干扰影响并没那么突出，因为生物有趋利避害的本能。眼看着同类大批死亡还要耗在那的生物活该灭绝。

3、基因突变的概率大概在1%-0.01%之间。不会太高也不会太低。这一概率本身已经足够低。再结合前两点，能传承下去的突变概率已经低得令人发指。很多人就说，对啊，所以要上百万年啊。如果你愿意建个模算一算就知道。哪怕是原核生物到真核生物这一步。几百亿年恐怕都不够。

4、除非生命有计划的进化自己，百万年才比较现实。但“获得性进化”这种拉马克学说，又不符合自然现象。比如你给自己剌个双眼皮，后代并不会继承。把手锯掉，缝个熊掌上去，后代也不会变化。“用进废退”只能发生在初代自己身上。因为基因的表达永远是单向的。性状上的改变无法写回到基因中。

5、进化遗传学确实发现了胚胎在发育中出现变异而导致后代性状改变的现象。看起来就是它和它妈不一样。但也含在前三条里。

6、达尔文的渐变论必然会要求大量居间物种的存在。但自然界中，永远驴是驴马是马，骡子绝育。所有的化石也没有任何居间物种证据。物种之间有天堑不可逾越。这就好比，有一台跑车。原本在柏油路面上风驰电掣。但突然开到了沙漠。如果还想开，它必须有一套合适的配件。一个偶然的突变，它得到了一个巨大轮胎。这种突变能适应环境吗？想适应这种环境，必须同时拥有四个巨大轮胎，并且要改变底盘位置、悬挂系统、车身外型、动力输出系统，甚至发动机都要变。除了它们都属于机动车。你会发现，二者方方面面几乎全都不一样。只有这种整体性、系统性的突变，才能适应新环境。而那种小小的、渐进式的突变，就好比一次只获得一个大一点点的轮胎。这样的结果只能是，这台车开起来摇摇晃晃，或者轮胎卡在车身里，于是被废弃（死亡）。基因是个比汽车要复杂上亿倍的系统。它的很多模块在功能上互锁。改变其中一环，最直接的结果会导致个体严重缺陷，从而被种群遗弃。因此这种小范围、渐进式的突变，完全不能传承下去。它会在种群中不断的被修正、被剔除。想进化成新的物种，概率极低的跳变论反而更接近化石及其他自然界证据。也就是说，一只猩猩，直接产下一个人类。只有一个并不够，至少要两个，一男一女才能繁衍成种群。这种事的概率到底有多低我算不出来。我只知道，如果一个人的孩子哪怕有点像隔壁老王，这事都必有蹊跷。

7、人们好像总能发现一些物种改变的表象。常见的是猫和狗的亚种。这种变化是在物种内的性状表达变化。仍然没突破那道天堑。最简单的生物应当最容易发生变异，比如病毒。但即便在病毒界，也从未验证过进化现象。超级病毒和超级细菌看似获得了更强大的基因。其实那只是性状上的自然选择。它们往往是严重缺陷菌株，只能在极端条件下存活。并且，没生成新品种。

以上寥寥数语，不想再展开聊。总之，“基因突变”是有的，“自然选择”是有的。但“进化”，这个权限的获得在地球上似乎设置了过大的障碍。各种进化论学说，自己本身就很难自圆。哪怕逻辑上讲得通，但放到时间尺度上一衡量。发现自宇宙诞生起，留给我们的时间根本不够。我们学生物的，学到一定程度之后就对进化论三缄其口。不晓得那些盆友哪来的自信。还要往政治、社会、企业运营上瞎扯。不是他们自己太傻就是相信他们的人太傻。我一直坚信一点，如果你一定要捍卫某种理论，那就要精通它，至少也要多了解了解。盲目相信和盲目拒绝都是文盲表现。

KK从生命的进化论联系到了人工智能的进化。我也谈谈看法。硅基生命与碳基生命，存在本质不同。人工智能的进化是可行的。碳基生命进化的障碍在于，概率低到不可能。但硅基生命的繁衍周期可以人为提速。因为电流是光速的。它们可以用一年，走完我们一亿年的进程。所以，当我说进化论在碳基生物范畴不合理的时候。我又要说，它在人工生命领域就合理多了。但此进化与彼进化，压根是两码事。

KK最终谈到了预言机。这种东西就是把无限可能都跑一遍，然后告诉你最可能的结局如何的东西。所有可相互影响的要素之间有着循环往复的信息与物质反馈。像极了生态系统，实在太复杂。人脑不行，只有人工智能可以。当人工智能拿到初始数据开始运算，将无限可能都考虑其中的时候。我又不禁联想到了物理学或者说哲学领域的平行宇宙学说。我想问问朋友们。你如何确定，我们这个世界是不是这个宇宙无限可能的其中之一？你如何确定，这个其中之一，是不是一台硅基预言机运算时，所模拟出来的电讯号？就仿佛电脑游戏中的角色，如果它们有心智，也许也会认为自己正生活在一个碳基的世界中，就像我们现在这样。

我个人对KK的某些想法无法苟同。但无论认同与否，都符合科学世界观。因为科学就是一种充满猜想，不断证实与证伪的世界观。错误是正常的，这个领域恰恰是世界上出错最多的地方。