结论

在向知识时代过渡的过程中，我们需要采取非常紧急的行动。我们在处理气候危机方面落后得很厉害，而且随着其后果的蔓延，社会确实有可能堕落为暴力。从长远来看，可能我们面临着超级智能崛起的潜在威胁，而且还有可能在这个宇宙中我们并不孤单。这些风险，只有当我们不再依附于工业时代，而是拥抱知识时代时，我们才能应对。反之，如果我们能够实现转型，巨大的机会就在我们面前。

一个危险的螺旋

世界正迅速被那些想把我们带回过去的人和那些一边推动技术发展一边困在工业时代思维的人所分离。正如我在导言中所描述的，技术增加了可能性，但它并不自动使每个人都变得更好。受限于工业时代的逻辑，自动化目前正在使少数人致富，而对社会的大部分人造成压力。数字出版也不会自动加速知识循环--我们发现自己处在一个被假新闻和过滤泡沫困扰的世界。

那些试图把我们带回过去的人正在利用这些趋势。他们向那些受到技术负面影响的人承诺，一切都会变得更好，同时大力投资于大规模的操纵行为。他们试图遏制开放的互联网，同时建立起秘密的监控。美国政客的两派都是如此。共和党和民主党都没有一个真正具有前瞻性的平台，他们都赞成政府对网络平台和言论的控制，而不是像信息自由一节中描述的那样赋予终端用户权力。

这样做的影响是两极分化的加剧和批判性探索与民主的崩溃。令人不安的是，国家内部和国家之间发生大规模暴力冲突的可能性正在增加，而气候危机对世界各地的工业和食品供应链造成了破坏。同时，我们解决气候变化问题的能力正在下降，因为我们正在螺旋式地回到过去，把注意力引向民族主义。

超人类、新人类和超级智能

在向知识时代过渡的过程中，还有一个紧迫的因素：我们发现自己正处在创造超人类和新人类的门槛上。超人类 "是指通过基因改造（例如，通过CRISPR基因编辑）和数字增强（例如，脑机接口Neuralink）增强能力的人类。Neohumans "是具有人工通用智能的机器。我在这里把它们都包括在内，因为它们都可以成为知识循环中的正式参与者。

超人类和新人类最终都可能成为 "超级智能 "的一种形式，并对人类构成威胁。哲学家尼克-博斯特罗姆（Nick Bostrom）就这个问题出版了一本书，他和其他思想家警告说，超级智能可能会产生灾难性的结果。我不想在这里重提他们的论点，而是想追求一个不同的调查方向：未来的超级智能会从我们目前的行为中学习到什么人文主义价值观？

正如我们所看到的，我们在批判性探究这一人文主义核心价值方面做得并不出色。我们也没有很好地对待其他物种，我们在这一领域最大的失败是工业化肉类生产。就像人类造成的其他许多问题一样，我相信最好的办法是创新。我对实验室培植的肉类和基于植物的肉类替代品感到兴奋。改善我们对其他物种的待遇是一种重要的方式，我们可以利用自动化所释放的注意力。

然而，更重要的是我们对其他人类的待遇。这有两个组成部分：我们现在对待对方的方式，以及对待新人类的方式。至于我们现对待对方的方式，我们还有很长的路要走。我的许多建议都是为了解放人类，使他们能够发现和追求他们的个人兴趣和目标，而现有的教育和工作循环系统却与这种自由相对立。特别是我们需要以一种允许我们克服而不是加强我们的生物差异的方式来构建知识时代，这些差异被用以造成现有的许多歧视和虐待。这将是超人类和新人类超级智能的一个重要模式，因为它们不会有我们的生物限制。

最后，我们将如何对待新人类？这是一个很难回答的问题，因为它听起来很荒唐。机器应该有人权吗？如果它们是人类，那么它们显然应该有人权。我认为人类之所以为人类的原因--创造和利用知识的能力--也将适用于人工通用智能。人工通用智能是否需要有情感才算合格？它是否需要有意识？这些都是难以回答的问题，但我们迫切需要解决这些问题。由于这些新人类很可能与我们的生物硬件没有什么共同之处，所以没有理由期望他们的情感或意识应该与我们相似。当我们向前冲时，这是一个需要进一步工作的重要领域。我们不希望意外地创造出一大批新人类，不认识他们，然后虐待他们。

费米悖论和外来访客

我想为进入知识时代的紧迫性提供一个最后的理由。我们很容易认为自己是宇宙的中心。在早期的宇宙学中，我们把地球放在中心，然后我们最终发现，我们生活在一个小星球上，围绕着一颗恒星，在一个银河系中，在一个难以理解的大宇宙中，位于一个不显眼的位置。最近，我们发现，宇宙中包含了大量或多或少与我们相似的行星，这意味着某种形式的智能生命可能已经在其他地方出现了。这种可能性导致了许多迷人的问题，其中一个问题被称为费米悖论：如果宇宙中存在如此多的潜在智能生命，为什么我们还没有发现任何信号？

对这个问题有不同的可能答案。例如，也许文明到了与我们相似的地步，然后因为无法进行关键的过渡而自我毁灭。鉴于我们处理当前过渡的方式，这似乎是一种明显的可能性。也许所有的智慧文明都遇到了它们无法解决的问题，比如气候危机，要么完全消失，要么遭受知识和技术的崩溃。考虑到宇宙时间和空间的规模，像我们这样的短命广播文明将不太可能在任何小的时空范围内被发现。此外，虽然气候变化是一个明显的现实危险，但也有许多其他物种层面的挑战（Ord，2021）。

知识时代的机会

相反，值得一问的是，我们可以在知识时代探索什么样的机会。首先，有一个巨大的对于自动化的机会。在成功过渡到知识时代的50年左右，我预计被困在工作循环中的注意力将缩减到所有人类注意力的20%左右或更少。这与工业时代专注于农业的注意力的缩减相当。我们将最终能够实现许多思想家以前所预测的自由水平，例如凯恩斯在他的文章《我们孙子的经济可能性》中写道，人类将享受大部分的休闲生活（凯恩斯，1932）。甚至马克思也设想了这样一个世界，尽管他认为它将以不同的方式实现。他写到一个系统，"使我有可能今天做一件事，明天做另一件事，早上打猎，下午捕鱼，晚上养牛，晚饭后讲评，就像我有思想一样，而不会成为猎人、渔夫、牧人或批评家"。这就是知识时代的承诺。

但人类进步的机会还有很多，包括太空旅行。我生命中最郁闷的时刻之一是在早期，我了解到在某个时刻我们的太阳会燃烧殆尽，在这个过程中，地球上的所有生命都会湮灭。如果一切都将结束，那么我们所做的一切又有什么意义呢？值得庆幸的是，我开始意识到，有了足够的知识和进步，人类可以成为一个航天物种，生活在其他星球上，然后最终旅行到其他星球上。

第三个机会是消除疾病。有时很容易忘记我们在这方面已经走了多远。许多曾经使人致残或致死的疾病要么变得可以治疗，要么已经被消除了。我们已经开始在抗击癌症方面取得重大进展，而且我相信，在未来几十年内，大多数癌症都有可能变得可以治疗。归根结底，这提出了死亡率的问题。我们能否，以及是否应该努力成为不死之身？我相信我们应该，尽管实现永生会带来新的问题。因为出生率将下降，这些问题不是一些人想象的人口过剩问，当然，即使人口过剩，我们的星球之外还有空间。长生不老的真正挑战将是维持知识循环的运作，因为我们不仅要弄清楚如何保持身体的活力，还要保持头脑的灵活性。马克斯-普朗克在他的名言中提到了这一挑战，他说："科学每次都在一个葬礼上进步"--旧的、主导的立场不允许新的理论取代它们。

第四个机会是，资本从足够到丰富。根据前面的定义，这将意味着资本的边际成本为零。想象这种情况的最好方法是想到《星际迷航》中的复制器。想象一下一个微波炉，它不是加热一道菜，而是从头开始做，不需要你先去买材料。如此丰富的资本可能看起来是一个永远无法实现的荒谬想法，但对于今天的大多数物理组装过程，限制速度的因素是所需的能源和需要人类来操作系统的部分。机器学习正在帮助解决第二个因素，但在能源方面的进展一直很缓慢：我们还没有任何核聚变反应堆，其输出的能量超过用于启动核聚变的能量，没有推论表明无法这不可行。有了足够的知识，我们将使核聚变发挥作用，消除实现资本充裕的第二个主要障碍。

前面的挑战

我们生活在一个对人类来说有一系列非凡的可能结果的时期。它们包括人类在一场气候灾难中的毁灭（一个极端），以及对宇宙的无限探索（另一个极端）。我们的结局取决于我们每个人每天所做的大大小小的选择，从我们在谈话中如何对待另一个人到我们如何解决气候危机。这是一个巨大的挑战，我每天醒来时对这个过渡时刻既害怕又兴奋。我真诚地希望《资本之后的世界》能够为我们进入知识时代做出一点贡献。