人好比孩子，超级智能好比孩子玩的炸弹。一旦人算不如天算，智能就会

在智能爆发的前景之下，我们人类就像拿着炸弹玩的孩子。玩具的威力和我们行为的成熟度是如此的不匹配。超级智能是一个我们现在还没有准备好应对的挑战，而且很长时间之内都不会准备好。尽管我们把炸弹放到耳边能够听到微弱的滴答声，但是我们也完全不知道爆炸会在何时发生。

人好比孩子，超级智能好比孩子玩的炸弹。一旦人算不如天算，智能就会像炸弹那样爆炸。

对于一个手拿着尚未引爆的炸弹的孩子来说，明智的做法是轻轻地将炸弹放下，快速跑出屋子，并告诉距离最近的大人。然而，我们现在面对的不是一个孩子，而是很多孩子，而且每个人都带着独立的引爆装置。我们所有人都意识到放下这个危险玩意儿的可能性几乎为零。总会有某个蠢孩子因为想要知道会发生什么，而按下引爆按钮。

我们也不可能通过逃离的方法获得安全，因为智能爆发的威力会击落整个苍穹。而且，我们也看不到任何成年人。

人好比孩子，超级智能好比孩子玩的炸弹。一旦人算不如天算，智能就会像炸弹那样爆炸。

在这种情况下，任何“哎呀，太棒了！”的高兴情绪都是不合适的。惊愕和恐惧会稍微合适一些，但是最适当的态度是：下定决心，发挥我们最好的实力，就像准备一场很难的考试一样，考试通过了梦想就会实现，考试失败了梦想就会破灭。

映射到社会，人类曾至少在两类情况下引爆过这种超级“炸弹”。一类是“土地炸弹”。据说成吉思汗把四川人从2 000万杀到只剩下80万，主要是因为他们影响了马吃草。人类开发出土地，本来是为了满足衣食之需；而在成吉思汗看来，人（至少是四川人）不重要，重要的是马。所以用土地种农作物有“罪”，必须从生存角度加以彻底否定。另一类是“资本炸弹”。两次世界大战本质上都是因为资本而引发的杀人游戏，纳粹对犹太人的迫害是人类的一种道德破产。

人好比孩子，超级智能好比孩子玩的炸弹。一旦人算不如天算，智能就会像炸弹那样爆炸。

人类玩过“土地炸弹”、“资本炸弹”，下一步必然会玩“智能炸弹”。“智能爆发的威力会击落整个苍穹”，那时人会怎么样呢？记得18年前“网络文化丛书”组织者在小汤山开过一个未来讨论会，一位今天已变得家喻户晓的专家当时曾说（大意）：“如果不考虑道德因素，计算机一旦统治人，从机器角度讲，人体除了脑袋，别的器官都没什么用，还浪费资源（按：成吉思汗如果管理互联网，肯定也会这么想）。所以最好的办法是把人的脑袋拧下来，像电灯泡一样安在工作台上，接好营养液，然后工作到死。为了减少人的痛苦，可以利用虚拟现实技术（按：现在已经快实现了），按照大脑的偏好，分别配一辈子的三级片或战争片，让他以为是真的，从而快快乐乐地度过一生。”

这就是我们和作者都要面对的问题。

如果你觉得这些都无所谓——什么电脑超过人脑，什么电脑统治人脑，包括你或你的后代哪天下午被莫名其妙地捉去当成灯泡，那你不需要读这本书，你赶紧忙你那更重要的事情去吧。

人好比孩子，超级智能好比孩子玩的炸弹。一旦人算不如天算，智能就会像炸弹那样爆炸。