话说宇宙起源于一锅粒子汤，大爆炸后的一锅粒子汤。然后经过140亿年的修行，有了人类，人类进化到今天变成所谓的“智人”。人存在于宇宙当中，宇宙也存在于我们身体当中。我们是碳基生命，组成我们的元素也存在于宇宙当中。所谓尘归尘土归土说的是人，说的也是宇宙。
如果说人类重新以粒子的方式在宇宙间旅行，打破时间和空间的局限进行星际殖民，这一粒尘埃会在宇宙掀起什么样的波澜？
星际殖民一种可能是以数字生命的形式传播。人工智能直接用纳米组装技术，用夸克和电子组装成一个成年人，他的记忆来自地球上的某个“原版”人扫描上传的记忆。
无需进化和学习，以粒子的方式重组生命，生命与机器结合会出现各种人造人或者机器与人的结合。
“数字生命”，就是谷歌的拉里佩奇所鼓吹的。佩奇这一派的观点是应该让数字智能自由发展。数字生命是宇宙进化自然而然又令人期待的下一步。是生命进化的3.0形式。创办SpaceX的科技激进派马斯克却对此持保守态度，他反对说，“开发人工智能可能会召唤出恶魔”。佩奇抱怨马斯克有“物种歧视”，只因为某些生命形式是硅基而非碳基就认为它们低人一等。
机器会不会产生意识是个充满争议的话题，人工智能发展的未来也是晦暗不明的。狄更斯说，这是一个最好的时代，也是一个最坏的时代。
人类经过几百万年进化现在俨然成为地球的主宰。如果有一天人工智能的发展让我们现在的人类变成一个相对低级的生命形式，到时候恐怕不是我们歧视数字生命，而是数字生命对我们有物种歧视。想想人类控制老虎，不是因为比老虎有力量，而是因为人比老虎聪明。
如果有一天人工智能比人类更聪明呢？
最好的结果之一是建立人类自然保护区，将濒临灭绝的人类圈养起来。因为大部分的人口被淘汰，生命的唯一意义就是延续种族。单调沉闷的余生，健康安全地被牧养。生而为人徒唤生亦何欢死亦何苦。
一、生命的进化方式
人工智能不只是无人驾驶汽车。人工智能能否胜过人类还要从生命进化的方式说起。
生命1.0是生物阶段，学习的过程发生在物种层面，通过达尔文的进化论，代代相传。这是物种的升级进化。生命2.0是文化阶段，地球上的一个基因系发现一种方法，能让动物产生神经网络，让它们从自己一生经验中学习。这就是拉马克的获得性遗传，通过学习获得进化。3.0是科技阶段，摆脱了进化的束缚。它是一个新“物种”，并以人类望尘莫及的速度学习，而不需要等待许多世代的缓慢进化。
生命1.0（生物阶段）：靠进化获得硬件和软件；
生命2.0（文化阶段）：靠进化获得硬件，但大部分软件是由自己设计的；
生命3.0（科技阶段）：自己设计硬件和软件。
生命3.0不仅能最大限度重新设计自己的软件，还能重新设计自己的硬件。值得庆幸的是生命3.0在地球上还不存在。所以我们还有时间站在生命的十字路口慢慢理解一下数字生命何去何从。
3.0版的数字生命就是孙悟空三打白骨精里面打不死的白骨精，是智慧与机器的结合，可以任意变形并且超越肉体的局限。
数字生命属于通用人工智能，就是能够完成任何目标，而且完成得与人类不相上下。
二、人工智能带来的真正风险并不是它们的恶意，而是它们的能力
计算机是通用机器，它的能力均匀分布在宽广得无边无际的任务区域。而人类只在与生存至关重要的领域能力强大，在不重要的事情上能力很微弱。
近年来的人工神经网络发展，通过简化结构和决策规则来模拟神经元已经可以让机器完成复杂任务，完成的程度与人类不相上下。
看一下人类能力地形图。低地代表算数和死记硬背，丘陵代表定理证明和下象棋。高山代表运动，手眼协调和社交互动。不断进步的计算机性能就好像水平面，正在逐步上升，淹没整个陆地。这个趋势不仅仅是抢人类的饭碗，而是取代人类的威胁。
在代表人类核心能力的“直觉”和“创造力”上人工智能已经成功挑战了人类。DeepMind公司的人工智能AlphaGo在一场五局围棋中， 战胜了被公认为21世纪初期全世界最顶尖的围棋棋手——李世石。
在第二场棋局的第37步， AlphaGo震惊了整个围棋界， 因为它落子在第5行，这违背了从古至今的传统。 看起来， 它似乎在长期策略上比人类表现得更加有信心， 因此它更青睐长期策略而不是短期地盘。评论员惊呆了， 李世石甚至站起来， 短暂地离开了房间。 当然了， 50步之后， 左下角的战火蔓延开， 正好与第37步时布下的那颗黑子连起来了！ 正是这个方法， 让它最终赢得了比赛， 铸就了AlphaGo的五连胜，并成为围棋历史上最具创造力的“棋手” 。
超级智能会非常善于完成它的目标。如果它的目标与我们的目标不一致，那我们就有麻烦了。出路在于，如果我们最终造出了超级智能，那我们必须保证它们是对人类友好的人工智能。
三、人类前途和人工智能目标
要让超级人工智能与我们目标一致虽然很重要却很困难。实际上这目前还是个未解之谜。这个问题可以分解成三个小问题：
1. 让人工智能学习我们的目标
2. 让人工智能接受我们的目标
3. 让人工智能保持我们的目标
前面2个问题已经很难，最棘手的地方在于，即使我们成功的让一个自我改进的超级智能学习和接受了我们的目标，它最终会不会保持这些目标呢？
这种担心是出于这样的认识：人类在学习新东西变得更聪明的过程中，目标常常会发生极大的改变。你想想看，你认识几个成年人的目标是看《天线宝宝》呢？
智力的提升甚至会让人的目标更容易受到新经验和新洞察的改变。
有一个假设。一群蚂蚁创造了你，让你成为一个迭代，是自我改进的机器人，这个机器人比蚂蚁自身聪明多了，但却拥有他们的目标，就是修建更大更好的蚂蚁窝。后来你获得了人类水平的智力并理解了这件事情的意义，你觉得自己还会把余生花费在修建蚂蚁窝上面吗？还是会去追求蚂蚁无法理解的更复杂的问题呢？
那么人工智能会不会自己修改我们给它设定的目标？
假设我们为一个友好的人工智能植入“保护人类价值”的目标，那这个目标就相当于这个人工智能的基因。一旦这个友好的人工智能对自我的理解达到一定程度，它也可能会觉得这个目标十分陈腐，或者误入歧途，就像我们现在对“鼓励大家生孩子”的看法一样。如果发生这样的事，说不定它会另辟蹊径，利用程序漏洞来破坏这个目标。
最乐观的看法是，设计永远保持“对人类友好”目标的自我改进式人工智能是可能的，但是至少目前我们不知道如何办到。
还有一个问题就是，“我们”到底是谁？我们讨论的到底是谁的目标？应该由某个人或者某个组织来决定未来超级智能的目标吗？
要知道每个人的目标各不相同。我们有希特勒，也有教皇方济各，还有卡尔 萨根。这是一个细思极恐的大问题。如果一个独裁者或者别有用心的组织可以控制修改超级智能的目标会引发一系列新问题。
这是个伦理问题。技术最终回归到整个人类的伦理价值上。从人工智能的角看这个问题，我们更容易理解，伦理问题决定整个人类的未来。人类社会能存在到今天也依赖于一些基于共同目标的伦理原则----促进生息繁衍。
从宇宙的起源看，我们人类的产生似乎是一个历史的意外，而不是什么定义明确的物理问题的最优解。这表明一个目标定义严格的超级智能将会选择通过消灭人类来更好地完成它的目标。换句话说，为了更好地完成人给它的目标任务，超级智能一定想要更多的资源。这好像也是人类的本能。但是会被机器放大。
比如，如果我们创造了一个目标是“尽可能好地下围棋”的超级智能，那么对它而言，最理性的选择就是将整个太阳系转变成一台巨大的计算机，而不顾居民死活，然后为获取更多计算能力而向宇宙深度进发，就好像好莱坞电影《黑客帝国》里的“母体”，它是创造者也是主宰。
伦理问题逼着我们追问应该如何塑造宇宙的未来？如果我们在具备认真回答这些问题能力之前就失去了对超级智能的控制，那它自己想出来的答案可能与人类无关。除非我们花了足够多的精力确保它的目标是对人类友好的，否则人类可能不会有什么好下场。
这是我们必须尽快讨论的棘手的哲学问题。人类的未来最终取决于人类对善恶的终极思考。
网友评论