看了万维钢老师对《生命3.0》的一部分解读，我有一个很深的感触就是，人类真的是会忘记自己的初心，要不我们一直都在倡导不忘初心呢，这是有原因的。那从宇宙的视角来看，人类的初心是什么呢？既然我们会忘记初心，那我们会追求的又是什么呢？《生命3.0》是讲人工智能的，既然人类都会忘记自己的初心（首要目标），那我们能够保证人类给AI设定的目标不会被忘记吗？下面我们就深入的探讨这几个问题。

宇宙的首要目标

我们往往这样认为：只有生物才有目标，无生命的东西是没有目标的。但是，其实换一个视角，每个物理过程都是为了达成某种目标。比如有一束光从空气射入水中，我们都知道，光会走一个折线，原因是反射定律所决定的。但是另一方面，我们也可以说，光的“目标”是用最短的时间从这一点达到那一点。

也许你会说，光是没有意识的呀。但是判断一个物体有没有目标，为什么要通过意识来判断呢？我们通过行为也可以判断出来，光是有目标的呀。所以，我们更进一步说，物理学家发现，所有物理定律都可以用这种“目标论”表述：真实发生的物理过程总是在“优化”某一个量，也就是总是“为了”把一个什么物理量最大化或者最小化。

那在这个视角下，整个宇宙的目标是什么呢？——热力学第二定律，也就是“熵”的最大化。

熵是一个物理概念，你可以认为它描写的是一个体系的“混乱”程度。有序的状态叫做“低熵”，混乱的状态叫做“熵增加了”。就如我们日常所见，自然的东西总是会从有序变得更无序。比如一个杯子的里的水聚在一起就是低熵，把这杯水在屋子里放的时间长了，水分子就会蒸发出去，弥漫在整个房间里，就是熵增加了。也就是说，我们从来都是看到水分子的扩散，却从来没有看到一屋子的水蒸气自动跑到一个杯子里变成一杯水的情况。

所以说，宇宙有一个另人沮丧的未来，热力学第二定律说，封闭系统的熵总是增加，那也就是说，宇宙的秩序总是在减少，混乱总是在增加，直到最后，宇宙变成了了无生趣的一盘散沙，这就是那个著名的词“热寂”。你可以这样说，宇宙的终极目标，就是达到热寂。但是，宇宙刚刚开始的时候就是一锅粥呀，为什么现在却是丰富多彩的呢？因为宇宙有一个次要目标。

宇宙的次要目标

因为引力的存在，宇宙有了一个次要目标：局部秩序增加。正是因为引力的存在，宇宙中才会有恒星和行星，恒星会发光发热，所以我们才看到宇宙多姿多彩。引力是让局部更有序了，但是整体的熵减少了吗？表面上看，局部秩序是增加了，但是从系统的整体角度来看，熵还是增加了。还是以那杯水为例，如果这杯水是人为倒满的，你是让这杯水更有秩序了，但是你的力量是哪里来的？你要想拥有力量，总是消耗什么东西吧，还是根据热力学的定律，既然我用一定的能量，让水更有序了，那我就必须要消耗更多的能量才行。也就是说，你让这杯水变得更有序的能量，其实让这杯水之外的系统，变得更无序了。总体来看，熵还是增加了。

所以说，宇宙的次要目标，其实还是让熵增加的更快了。但是，好消息是，宇宙的次要目标，让通往热寂的过程变得更有趣了。

其实，我们再仔细想想，就会发现这不符合我们的传统价值观。我们讨厌混乱，喜欢秩序。但我们增加秩序的同时，其实就是在帮助宇宙加剧混乱，并达到它的最终目标。那更近一步，我们已经知道了宇宙的首要目标和次要目标的关系，那我们人类自己呢？我们可是宇宙的一个及其微小的产物，我们有首要目标和次要目标吗？

生命的首要目标：繁殖

如果说，宇宙的首要目标是热寂，次要目标是让局部有序，而人类又是局部有序的产物。那人类的首要目标是什么呢？肯定是要为宇宙的首要目标服务呀，所以人类要制造混乱。事实是，人类也是这么做的，比如：你要吃饭吧、那你就要做饭吧，那你在哪里做饭呢？你要建房子吧，我们应该都明白，这些虽然某种程度上让局部更有序了，但实际上是让整个系统更混乱了。但是这些是人类最有用的目标，能够帮助宇宙更快达到热寂吗？

显然不是，还有一个更好的办法，让宇宙更快达到热寂。你一个人的力量多单薄呀，你要尽自己最大的努力让更多的人去制造混乱。怎么办呢？相信你应该已经想到了：

人类的首要目标是：生育，简单说就是繁殖。

可以这么说，所有低等生命的目标都是繁殖，而人类为了满足这个宇宙的首要目标，其实最开始首要的目标也是繁殖。但是，你问问现在的每一个人，他们的首要目标还是生育吗？为什么呢？因为人类其实也有一个次要目标呀。

生命的次要目标：感情

通过上面的分析，我们可以这么说，人类的初心就是繁殖。而且我们为了完成繁殖这个首要目标，发展出了一个快捷方式：感情。比如，看到美丽的异性会动心，看到危险的事情会害怕。到了环境优美的地方，会感到舒适。其实这些感情都是为了首要目标服务的，因为有了这些感情，是更有利于我们进行繁殖的。这样说来，其实满足自己的感情就是我们的次要目标。而且次要目标，开始是为首要目标服务的。

但是，现在呢？次要目标还在为首要目标服务吗？显然不是呀。现代社会，我们一直在追问，生命的意义是什么。肯定没有人说，没生命的意义是繁殖。在文明社会，每个个体都有自己的目标，这种目标各部相同。也就是说，人有追求自己幸福的权利。我们可以为了爱情结婚，但是不生育。我们也可以为了自己的事业，而不结婚。我们已经不再忠于生命最原始的首要目标了，而是忠于某一种感情。

既然连人类自己都出现了为了次要目标而把首要目标遗忘的情况，那人类又怎么能保证AI的首要目标也不会忘记呢？

AI的目标会是什么

从现在来看，AI的目标肯定是由人类来设计的。但是让AI一旦发展到比人类高级很多，即使你设计了它的首要目标，你怎么能保证它不会忘记这个首要目标呢。也就是说，不管你给AI设计什么目标，它都有可能发展出来一个它自己才愿意去追求的次要目标。举个简单的例子你就明白了，如果AI的智能达到一定水平，你给它设计了一个目标，它为了完成这个目标，肯定想变得更大更强。你有多少信心能够保证，AI不会把变得更大更强这个次要变成首要目标呢？如果这真的变成AI的首要目标，人类还有存在的可能吗？这真是一个问题。

也就是说，不管你给AI设定什么目标，AI都会有一个次要目标，这个次要目标才会是它自己愿意去追求的。

请您注意这段话中很重要的一个词：“愿意”。AI会有这种“愿意”或者是“不愿意”这种主观体验吗？说的更本质一些，主观体验是什么？——就是意识吗。AI会有意识吗？这可是当今世界的一个终极难题，我们下次详细给您说道说道。

我是徐建航，这是我写的第39篇文章，欢迎你加入007社群，七天写一篇，一起写七年，七年之后一起去南极。