《超级智能》2-3：机器会超越人类吗？（下）

万卷好书206《100本互联网人必读》系列：《超级智能》2-3：机器会超越人类吗？（下）

文/杜豆豆

---

倾一生之力，读经典好书，写有厚度的文字，过有深度的人生。大家好，我是杜豆豆。欢迎收听我解读的《100本互联网人必读》系列。

智能大爆发的临界点

10

机器智能、硬件和软件联合起来，最终获得的优势将是巨大的。那么，这种实现潜在优势的联合，会在何时实现呢？

从未来的宏观过程来看：目前，人工智能还远远低于人类基础智能。未来某一天，机器智能会接近这一水平。这时，就是机器智能开始全面提升的时候了。随着机器聪明度的不断增长，将会达到人类综合智能水平。最终，机器的聪明程度会提高到“强超级智能”水平，大幅超过当前全人类智能水平，这就是整个爆发过程的完成。这个过程中，会有一个“临界点”，临界点之后，机器智能提高将主要依靠自身而非他人。

看看下面的“智能爆发图”，我们可以辨别出三种可能的智能大爆发情形：缓慢的、迅速的和温和的。

智能爆发图（参见原书第四章）

缓慢的智能大爆发是在相当长的一段时间内发生的，比如几十年甚至更久，这给人类政治进程提供了良好的适应机会。

迅速的智能大爆发，往往发生在非常短的时间内，比如几分钟、几小时或者几天。人们没有足够的时间做出反应，往往是在整个爆发过程结束之后，都没意识到问题所在。

而温和的智能大爆发，多发生在中等长度的时间内，比如几个月或者几年。虽然人类不足以发展出新的体系，但可以调整现成的体系来应对新的挑战。

通常，人们会认为缓慢的爆发可能性最大，温和的其次，而迅速的最不可能。但作者的研究结果却是，缓慢的反而是最不可能发生的，最有可能的是迅速的爆炸性发展。

11

为什么缓慢的智能爆发最不可能，反而是迅速的智能爆发最有可能呢？

作者在书中给出了一个公式：智能变化率等于最优化力除以反抗度。

智能变化率公式

最优化力和反抗度是作者假设的智能增长率的两个变量。其中，反抗度是指提升智能遇到的瓶颈，最优化力是指智能提升的技术和社会条件。我个人觉得，姜奇平老师在推荐序中的解释比较容易理解，反抗度相当于阻力，最优化力相当于计算效率或者聪明程度。

如果系统的最优化力高，也就是人类用高计算效率付出了努力，同时受到的阻力小，那么系统的智能水平就会迅速提升。

反抗度这个变量，在人工智能初期，会急剧下跌，随后则有回升。举个例子，程序员写代码会长期在某一关键问题上过不去，进展就会慢。一旦这一瓶颈被解决，立刻就会从低级直接飞跃到高级。但如果再升更高级，则可能还会出现新的难题而导致进度再次缓慢。

改进人工智能，可以从两个因素上考虑：改进内容或者改进硬件。

改进内容，也就是改进系统的软件资产。比如，虽然一个智能系统的阅读理解能力只有十岁孩子水平，但你可以让它通过快速读取美国国会图书馆所有书籍内容这样的改进，让这个系统迅速进化。

改进硬件，其实就是改进计算力。短期，可能也就是个钱的问题。较长期，就会是全世界安装能力的问题。更长期，就是性能提升的问题了。这些问题，总体来看，反抗度都会很低。

作者的公式最终反映出的是：快速爆发并不需要缓慢的过渡，因为最优化力的提升会是快速的，反抗度也会保持一种低值状态。即便在最优化力快速增长条件下，反抗度恒定或适度增长，快速爆发的可能性也会更大。

12

按照作者的动力学分析，超级智能的爆发会是快速的，那么就很有可能第一个启动的项目会在竞争中领先。这样，就引来了另一个问题：

领先者会取得决定性的战略优势，最终建立超级智能单一体，对未来进行统治吗？

超级智能单一体会统治未来吗？

领先者与追随者之间有多大差距，其中一个重要因素，就是使领先者获得竞争优势的那种技术，扩散的速度有多快。如果门槛很低，追随者很快就能模仿，那领先者的竞争优势就会迅速化为乌有，落后者会大大受益。

但是，单凭模仿，追随者并不见得会跟得上领先者，尤其是落后得足够远。这让我想起之前做LINUX桌面系统的经验，如果单纯拼功能和性能技术，LINUX显然是胜WINDOWS一筹的，在WINDOWS已经形成了一个庞大的技术生态圈，提供了更多关联和兼容功能，有了垄断性的用户基数后，LINUX还想赶超WINDOWS的桌面系统，已经是完全没可能了。

在书中，作者还回顾了丝绸制造、瓷器工艺、交通工具、人类迁徙、军备竞赛、数学发明等等技术竞赛的一些历史实例，最终得到的结论是：几乎不可能有两个项目同时快速启动；对于中速启动，一家独大和多头优势两种情况都有可能发生；而对于慢速启动，很可能有数个项目同时启动，但还需要进一步分析。

对慢速启动的项目来说，关键问题不是说有多少个项目启动，而是这些项目的实力如何，有没有一个能有决定性战略优势。显然，这种可能性是存在的。

而对于中速启动的项目，有可能同步发展，但领先者在临界点就会爆发，实现强超级智能，也一样有机会获得决定性战略优势，进而摧毁竞争项目、建立单一体，实现长久控制。

说来说去，不管项目的启动是慢速、快速，还是中速，对于领先者取得决定性战略优势的可能，答案都是肯定的。

13

那么，一个成功的超级智能项目可能会有多大？

超级智能要实现，必然要耗费大量资源。比如，一个全脑仿真项目要用大量先进设备，还要有多种专业技能人才、雄厚的资金支持。

人工智能项目的大小，也是很难估计的。它可能是个很大的研究项目，也可能只需要一小群人就能完成，甚至一个黑客独自完成，也是有可能的。

项目到底有多大，一个重要的问题是，大玩家们的重视程度有多高。如果，各国政府都认识到超级智能的重要性，将其纳入国家支持的重要项目，马上开始有计划地开展，那么，这些组织做为积极推动的大玩家，就会快速促进超级智能的发展，小规模的组织或项目就自然退到了后面。

除了各个国家做为独立单位发起超级智能的研究项目，如果全球治理结构整体强大，那国际合作的可能性也会增加，就像现在国际空间站、人类基因组这样成功的跨国科技合作一样，超级智能项目还是有可能会成为一个规模宏大的项目的。

如果一个项目取得了决定性战略优势，那么它是否会利用这个优势建立单一体呢？

类比核武器发展的历史，从国家视角来看，人类为保护自身生存，会竭力通过理性的平衡，来阻止这种寡头垄断的单一体组织形成。

但是，如果具有决定战略优势的不是一个人类组织，而是一个有超级智能的人工智能体，情况会发生变化吗？

作者认为，人类个体和组织会倾向于规避风险，而不是效用的最大化。但超级智能是依靠数学计算来思维的，更有可能冒险，以更为强大的技术优势为筹码，迫使其他国家自愿投降，从而获得统治世界的机会。

因此，对未来的推测是：某个大国很有可能会通过获得具有战略优势的超级智能，并利用这种战略优势建立单一体，进而统治世界。

超级智能会夺了人类的权，进而统治世界吗？

下次讲。

今天的解读就到这里。倾一生之力，读经典好书，写有厚度的文字，过有深度的人生。我是杜豆豆，感谢你的收听。下节我们继续解读《100本互联网人必读》系列的第二本书《超级智能》，欢迎持续关注。

超级智能会夺了人类的权，进而统治世界吗？

（未完待续）

创作不易，非授权不得转载，转载请注明出处。如果您觉的文章有用，别忘了在文末点赞哦。

读更多好书，请访问我的文集连载：《一生必读的万卷好书》

我是最高级别的“简书会员合伙人”。欢迎您加入“万卷好书读书会”：会员已超200人，需群主拉入。有兴趣的简友请加微信dudoudou189联系我。读书会座右铭：在浮躁的时代，安心读书写作，养育心灵。