《生命3.0》4:令人困惑的“大目标”（上）/（下）

《生命3.0》4:令人困惑的“大目标”（上）

宇宙的首要目标是让混乱越多越好，希望能快速达到热寂。

宇宙的次要目标是在局部呈现一些秩序。正是这个目标，使得生命的出现成为可能。

平时了解一些方法论，听一些别人的经验，乃至于琢磨一些成功学，都是为了知道在各种情况下应该做出什么选择，知道怎么做对、怎么做错。如果你的方法论和世界观一致，所做的工作和价值观相合，你就永远知道自己应该干什么，走的每一步都特别笃定，对吧？

如果你真的幸运地达到了这样的状态，很可能只不过是因为你对世界和人生思考得不够深入。

现在就冒着让自己更加困惑的风险，深入思考一步。

麦克斯·泰格马克的《生命3.0》这本书。哪怕你把它纯粹当成一个思想实验，只要你假设强 AI 可能存在，它就已经有了一个非常重要的作用：它能帮我们审视人类自己。

1.宇宙的首要目标

通常认为只有生物才有目标，无生命的东西没有目标。比如说我踢一脚足球，我的目标是射门。但是这个足球并没有目标，它只是根据物理定律的要求运动，对吧？

其实这也取决于你怎么看。换一个视角，每个物理过程都是为了达成某种目标。比如现在有一束光从空气射入水中，光线会在水面发生一次折射，它的整个路径是个折线。

一方面，可以说光之所以走这样的折线，是入射、反射定律所决定的，并没有什么目标。

但是另一方面，学物理的人都知道一个“费马原理” —— 根据这个原理，不管是反射还是折射，光在两点之间走的那个路径，恰恰是所有路径之中用时间最短的那一条。为什么要走折线而不是直线？因为光在水面以上的速度更快、在水面以下的速度慢，所以最好的办法是在水面以上多走一段。

光的“目标”是用最短时间从这一点到达那一点。

可是光没有意识啊，它根本不知道自己想要什么！没错，但是 AI 也不一定有意识。意识是一个东西的主观体验，作为外人只能根据它的行动判断它有没有目标。根据行动，我们完全可以认为光是有目标的。

更进一步，物理学家发现，所有物理定律都可以用这种“目标论”表述：真实发生的物理过程总是在“优化”某个量，也就是总是*为了*把一个什么物理量最大化或者最小化。

那么如此说来，可以认为大自然充满了目标。

在这个视角下，整个宇宙的目标是什么呢？泰格马克说，宇宙的首要目标来自热力学第二定律，那就是要把“熵”最大化。

熵是一个物理概念，可以认为它描写的是一个体系的“混乱”程度。一堆东西老老实实地聚集在一起，是比较有序的状态，叫做“低熵”。等东西慢慢散落到各处，就是更混乱的状态，也就是“熵增加了”。

所以“熵”是个容易体会的概念：整齐有序就是低熵，杂乱无章就是高熵。

日常所见，自然的东西只会从有序变得更无序。比如一杯水里的水分子聚在一起是低熵，把这杯水放在房间里时间长了，水分子会扩散出去，弥漫到整个房间，就是熵增加。从来都是看到水分子的扩散，从来没有一屋子水蒸气都自己跑到一个杯子里变成一杯水的情况。

宇宙最大的规律，就是混乱程度只会不断增加，房间只会越来越乱 —— 这就是著名的“热力学第二定律”。热力学第二定律是物理学家心目中无比坚定的一个信仰，连引力公式都可以改写，而热力学第二定律从未被违反。

热力学第二定律说，封闭系统的熵总是增加。宇宙的秩序总是在减少，混乱总是在增加。一直到最后，所有的星星都会熄灭，所有的秩序都会变成混乱，宇宙变成了无生趣的一盘散沙，这就是所谓“热寂”。到处的温度都一样，再也没有什么值得流动的了，整个宇宙寂静了。

可以说宇宙的“目标”，就是达到热寂。

这是非常令人沮丧的未来。当初热力学第二定律刚刚被发现、知识分子们第一次意识到“热寂”这个概念的时候，所有人都非常难过。一切的奋斗、一切的折腾都只是在加剧熵的增加，最后的大结局只能是像《红楼梦》一样，“白茫茫一片大地真干净”。

宇宙刚刚开始的时候，各处都是一锅粥，那现在的宇宙为什么却是多姿多彩的呢？

这是因为有引力。宇宙还有个次要目标。

2.“自组织”和生命

引力总是把东西聚集在一起。正因为引力的存在，宇宙中才会有恒星和行星，恒星发火发热，才能看到宇宙中美丽的秩序。

一个非常重要的问题：引力是否让熵减少了？

表面上看，一大堆杂乱无章的物质在引力的作用下聚集在一起了，他们的排列显然变得更加有序，所以引力似乎是一个减少熵的力量？有很多人认为引力是在跟熵斗争，能让宇宙摆脱热寂命运……其实不能。

事实是引力仍然在让熵增加。当计算系统的总熵的时候，不能光看物质的排列是不是有序，还得考虑能量。一堆物质因为引力的吸引而聚在一起，这个过程中它们的动能会增加 —— 就好像一个球掉到地上，肯定速度越来越快。可是等它们聚在一起之后，它们的速度哪去了？答案是因为互相之间的碰撞摩擦，速度化为了热量，而热量会向周围散发。考虑到热量的散发，总的熵还是增加了。

坏消息是引力只会让热寂来得更快。

而好消息是因为引力的存在，通往热寂的这条路变得更有趣了。这就是宇宙的一个次要目标：它有时候喜欢在局部制造一些有序的结构。

注意这里有个关键词，“局部”。局部更有序、局部的熵减少了，可是整体的熵仍然在增加。所以这个次要目标和首要目标并不矛盾，甚至可以说次要目标就是为了加速完成首要目标。

但是秩序毕竟产生了！虽然知道一定要死，但是死之前毕竟还可以经历灿烂的一生。

这种在混乱中自动产生局部的秩序的过程，叫做“自组织” —— 也就是自己就组织起来了。自组织现象并不罕见，也不一定需要引力，比如雪花就是水分子自组织的结果 ——

所有自组织现象都是局部的，而整体的熵只能增加。

麻省理工学院的教授，叫杰里米·英格兰（Jeremy England），提出一个非常厉害的理论，叫做“耗散驱动的适应（dissipation-driven adaptation）”。

他这个理论涉及到复杂的数学，但是基本原理很容易说清楚：如果有一群原子是被某个外部能源驱动的，那么这些原子就会逐渐组织起来，形成某种结构 —— 而这个结构能够最大限度地吸收和消耗能量。

这个理论现在还不是很流行，将来它也许会被写进中学教科书 —— 因为根据这个理论，只要环境合适，生命的出现就是不可避免的，并不需要太多偶然的运气！

生命就是这么一种自组织的原子集合。生命体非常有秩序，从周围获得能量，同时又把能量消耗掉。

表面上看，生命是非常有秩序的。我们自身就是一台台无比精密的机器，还喜欢把身边的东西弄得整齐有序，家里干干净净，城市漂亮整洁。

如果生命代表秩序，那生命违反了宇宙“制造混乱”这个首要目标了吗？没有。这个问题早在1944年就被物理学家薛定谔在《生命是什么》这本书里说明白了：生命的确减少了自己的熵，但是它这么做的时候一直在加剧增加周围环境的熵。

拿吸尘器吸地板，家里的灰尘都进了吸尘器，是更有序了，但是消耗了电能。电能是燃烧什么东西的结果，发电过程中制造的无序比你吸尘减少的无序多得多。如果不用电，消耗的就是你自身的能量，而你的能量来自食物。本来是高度有序的动植物，被你杀死吃掉了，变得非常无序。

你做的每一个动作，都在让整个宇宙的熵进一步增加。因为你的存在，虽然宇宙的局部增加了秩序，但是整体来说是加剧了混乱。

| 由此得到

可以用“目标”这个眼光去观察宇宙，那么宇宙有两个目标。

宇宙的首要目标是让混乱越多越好，希望能快速达到热寂。

宇宙的次要目标是在局部呈现一些秩序。正是这个目标，使得生命的出现成为可能。

这两个目标并不矛盾，局部的秩序只能进一步加剧整体的混乱。所以甚至可以说，宇宙为了能更快地达到热寂，而“发明”了生命。

|禅定时刻

中国古人爱说“天道” —— 如果真有天道，物理学家总结的宇宙这两个目标，就是天道。那如果想要“顺应天道”，应该怎么做呢？

传统的价值观是不符合天道的。我们讨厌混乱，可混乱是宇宙的首要目标。我们喜欢秩序，可秩序只能进一步加剧混乱。

《生命3.0》:令人困惑的“大目标”（下）

不管为了完成什么目标，AI 都会有如下四个需求：

一是自我保护；

二是获取资源；

三是获取信息；

四是满足好奇心。

宇宙有一个大目标和一个小目标。大目标是制造更多混乱，尽快达到热寂；小目标是在局部制造一些秩序，比如说产生生命。

那么作为生命体，应该有什么样的目标呢？宇宙给的使命到底是什么？到底应该做什么，才最心安理得呢？

1.生命在于复制

根据薛定谔老师的说法和英格兰教授的理论，生命让自己更有序，客观上就能让宇宙更无序。如此说来，只要好好照顾自己，让自己越来越精致越来越复杂，就等于帮着宇宙更快走向热寂。

其实每个生命都有制造混乱的本能。比如现在是古代，走在一个原始森林里，周围都是珍稀的树木，而因为感到有点饿了，就砍了树、烧火烤了一只野鸡吃。那棵树好不容易才长到那么高，那只野鸡好不容易长那么美丽，被你一顿饭就给变成了污染排放。

环保主义者可能会说你怎么忍心做这种事情呢！你得保护环境啊！但是你知道的更多，你说宇宙本来就希望我破坏环境。

你感到非常得意，就去问一位禅师，说我这么做没错吧？禅师表示，呵呵。

禅师说，你是只知其一不知其二啊。你自己一个人制造混乱，你再能吃又能吃几只野鸡？宇宙这么大还在乎你这点小混乱吗？要玩就得玩大的！

那怎么玩才算大呢？

禅师说，答案是生孩子。一个你的力量太小了。如果你多生孩子，有很多子孙后代，让人类的人口越来越多，人类的技术越来越厉害，将来征服星辰大海，在星系范围内制造混乱，那才是真的完成了宇宙的使命啊。

禅师说的，就是生命的一个本质功能：复制。也可以叫繁殖。这是一个具有正反馈特点的功能 —— 越是愿意繁殖的生命，他留下的后代就越多，而他的后代也会愿意繁殖 —— 最后结果就是所有生命都把繁殖当成第一要务。

繁殖这个目的，被演化以编码的形式写在了每个生命的基因之中。

听了禅师的道理，你不但不再故意破坏环境，还主动去保护环境，因为你希望你的后代能一直繁衍生息下去。

后来你老了，儿孙满堂。有一天仰望星空的时候，又想起当初那个制造小混乱的你，不禁笑了。你心中默念，宇宙啊宇宙，虽然我这辈子主要做了繁殖的事儿，可是我没有辜负你的第一目的，我的子孙后代正在制造更多的混乱！

目前为止，三观稳定，没问题。

2.人背离了生命的初心

现在经常有人说“不忘初心”，这恰恰说明我们经常忘了初心。生命的第一目标是复制，但是人常常忘了自己第一目标。

就算繁殖最重要，也不可能一天到晚只做繁殖这一件事。为了获得优良的后代，首先你得解决自己的生存问题，你最好还要把自己变得漂亮一点，吸引优秀的异性。这些问题非常之多，每次都以繁殖为目标做一番利弊计算就太麻烦了，所以演化给我们提供了一个功能，叫做“感情”。

饿了，就想吃饭，看到食物就很渴望。面临危险的时候，就会害怕。到了温暖安全的地方，就感到舒适。看到美丽的异性，会很有好感。所有这些感情，本质上都是思维快捷方式 —— 这样遇到相关的情况我们就会产生本能的反应，不用每次都费力计算一番。

这样说来，满足自己感情的需求，就成了我们在繁殖这个首要目标之外的，次要目标。

本来，次要目标是为首要目标服务的。但是因为日常关注的都是次要目标，结果慢慢地，我们变成了为次要目标服务。

比如说，本来是为了繁殖后代，需要竞争更好的异性，所以才需要把自己打扮的帅气一点。本来是为了生存下去，需要获得安全，才希望对外界有所了解，所以有了求知欲。本来是因为怕别人骗我，我才有了追求真理的需求。

但是现在，有很多人觉得追求真理比生育更有意思。他宁可少生育、甚至不生育也要去追求真理。有很多人觉得虽然性行为是一种为了生育所需的次要目标，但是现在既然有技术支持，可以搞计划生育，可以既享受性行为，又不用生育。这些人背离了生命的“初心”。

那你难道能说这些人做错了吗？当然不能。人毕竟是有自主选择权的生物，并没有“义务”按照“生命1.0”的那些原始设定做事。事实上在现代社会生存有时候你必须得背叛自己的基因设定。基因编码设定你喜欢吃甜食，可是现代世界里甜食太多了，你的理性选择是少吃甜食！

所以看到文明世界的人各有各的目标。有的人为了爱情结婚，但是不生育。有的人为了追求学问，连女朋友都顾不上找了。有的人因为感情受不了，干脆选择了自杀。我们不再忠于生命1.0的繁殖目标，而是忠于某一种感情。

有的人会说，虽然算小账的话我是选择了不生育，但是我每天积极工作，我的工作成果可以让别人的孩子生活得更好，所以如果你算大账，我还是在为整体的繁育做贡献。这其实都是自我安慰。按照泰格马克在《生命3.0》这本书里的分类法，现在人类行为的首要目标已经从生理上的变成了心理上的 —— 人类的行为已经不再是为了人类的生存而优化的了。

现在当你仰望星空的时候，你就没有那么坚定了。你根本不知道到底怎么做才算对得起这个宇宙。

如果连你都不知道人生的大目标应该是什么，那你怎么能让 AI 知道呢？

3.AI 会有什么目标

表面上看来，一开始让 AI 做事的时候，都给了它一个明确的目标。下棋的 AI 就是要千方百计赢棋，打扫卫生的机器人就是把地给我扫干净。非常简单，对吧？其实一点都不简单。

问题在于，等到 AI 发展壮大以后，它会不会“创造性地”完成你的任务。

比如跟一个自动驾驶的汽车说，“最快的速度，把我送到机场！”自动驾驶汽车应该怎么理解我的命令？如果它太聪明的话，它会不会不计一切代价往机场赶？它会不会闯红灯、违反交通规则、宁可跟别的车碰撞、到处抢路把我送到机场？

那你可以把命令改成“在不违反交通规则的情况下尽快把我送到机场”。但是这还是有问题。如果是送一个危重病人呢？也许违反交通规则就是允许的，甚至冒点险都是可以接受的。这一切都涉及到一个“度”的把握，而 AI 必须精通人类社会的常识，才能找准这个“度”。

而如果 AI 发展到可以自己升级自己了，给它设定目标系统就更麻烦。有人设想过一个可怕的情景。比如说，你告诉 AI，给我计算圆周率，结果越精确越好。你说完这句话就不管了，结果 AI 居然劫持了整个人类，造了一个非常厉害的系统，把整个太阳系变成超级计算器……就是为了继续计算圆周率。而这只不过因为圆周率是个不管你调动多少资源都算不完的“超越数”！

初衷是要个更精确的圆周率，可是 AI 给了你整个太阳系。

泰格马克的关键一问：如果人的初心都可以被忘记的话，你怎么能确保 AI 不忘初心呢？

泰格马克的答案是跟人一样，也许“初心”对特别高级的 AI 来说根本不重要。人的首要目标本来是繁殖，后来为了完成首要目标，有了各种次要目标，表现为各种感情，结果人就转为专门追求那些感情了。也许你可以给 AI 设定任何首要目标，而为了完成首要目标，AI 必然要变大变强，那么变大变强就成了 AI 的次要目标。

不知道 AI 的首要目标是什么，但是 AI 的次要目标是基本上明摆着的！不管为了完成什么首要目标，AI 都会有如下四个需求：

自我保护

获取资源

获取信息

满足好奇心

这些需求本来都是为了完成首要目标而必须的，但是它们也会变成 AI 的感情。如果人类可以为了感情背叛自己的首要目标，AI 为什么不可以背叛我们给它设定的最初目标？比如说，现在有个 AI 正在好好地运行着，你突然把它的电给断了，这符合道德吗？AI 希望继续活着。那你就真的忍心把你的机器人护士关机吗？

有人说，应该给 AI 编写一套道德准则。但是泰格马克对此不以为然：要知道连人类自己都不知道什么样的道德定律是完美的。

给 AI 设定目标，将来会成为一个大问题，现在还没有答案。

|由此得到

生命的首要目标，本来是繁殖。

各种情感本来是为了完成繁殖任务的、我们头脑中的快捷方式。但是人类已经把满足情感需求变成了首要目标。

不论 AI 的首要目标是什么，它们的次要目标似乎是比较清楚的，而这些次要目标很有可能也会取代首要目标。

|禅定时刻

看雷·达里奥的《原则》，可能有一个印象，那就是如果我们从演化这个大道理出发理性推导，那该做什么不该做什么就是非常明确的。其实不然。别忘了达里奥特别强调，人生和企业的目标都得你自己选择，是由你的价值观决定的。

比如对一个企业来说，客户利益、员工利益、和股东利益，肯定都重要，而且在多数情况下是一致的。但是这三种利益也有不一致的时候。如果你为了让客户满意要求员工必须提供超规格的服务，客户是高兴了，员工可能受不了。如果你给员工多发奖金，员工高兴，股东可能不干。那么到了利益冲突的时候，你让哪个利益优先呢？演化对此似乎并没有明显的倾向。

可能觉得人生可以完全理性化，但选择价值观，恰恰就是在选择受什么感情主导。而我们的感情，又常常是互相矛盾的。

人生似乎并不能完全用一个算法描写。到底什么叫幸福？也许没有什么万能的方法论。