The Technological Singularity

当机器拥有人性，我们将面对怎样的世界？

<技术奇点> 是一本深入阐述人工智能的著作。提到这本书，就不能不提奥斯卡获奖影片<机械姬>，而作者正是这部影片的首席科学顾问，人工智能领域知名专家默里·沙纳汉。

<机械姬>是一部科幻惊悚片，电影巧妙的对未来人工智能可能给人类带来的威胁做了一个预言，通过发生在一个密闭空间中的一次“图灵实验”，一场人类和机器之间心智的博弈。事实证明，拥有日趋完善心智的机器人，完全可以匹敌人类，掌握主动权，情感判断，自卫等攻击能力。感情用事的人类，反而成为被利用的筹码。当美女机器人披上类人皮肤，带上假发，穿上衣裙，混入人群中，我想你和我一样都感到不寒而栗，未来这事儿会成真吗？人类会被人工智能消灭吗？到底“奇点”何时会来？奇点一旦出现，对人类将有怎样的颠覆性后果？我们人类又该如何应对？

人类水平的人工智能及超越人类水平的超级智能是可能且一定会出现的，人工智能和神经技术的进步会加速奇点的到来，奇点一旦出现，对人类将有颠覆性后果，不但可能威胁到人类的生存，也是宇宙视角下另一种生存机会，为此，我们必须做足思考和准备。

什么是“奇点”？

人类历史中出现的奇点指的是由于技术的迅速发展，人类社会中的一切都将彻底改变，生活在今天的我们将无法理解。被我们视作理所当然的一切，包括经济／政府／法律／国家等会改变形态，人类最根本的价值观会被淘汰，甚至我们人类之所以为人的理解都存在疑问。说白了，奇点之后的世界，是跟现在截然不同的另一个模样。

如果智能能创造技术，技术也能反过来创造智能，那么就会产生一个循环，这个循环的结果是难以预料的，可能是爆炸性的改变。未来学家雷·库兹韦尔提出“加速回报定律”，如果一项科技符合加速回报定律，那么这项科技越先进，它进步的速度就越快，在一段时间以后就会实现指数级进步。不过，这个循环中就不再需要人类了，经过认知改造的生物智能将占主导地位，人类已经跟不上了。

奇点会出现，但短时间内，21世纪中叶前恐怕无法实现。实际上，有不少通往人类水平和更高水平人工智能的合理路径，而且每一条路径的每一步在技术上都是可行的。

人工智能能否像真正的朋友那样，长期按我们希望的那样去行动，这一切关键都取决于人工智能的回报函数，所谓回报函数是编程术语，指在优化中得到最大化的函数，回报函数设计得合理，就能保证人工智能是善良的。

如果回报函数出现问题，其结果可能是灾难性的。假设人们创造了一组人工智能，它们困于虚拟空间，像奴隶一样工作，假设它们和人类一样能感觉到痛苦，很可能会发动一场革命。如果反抗的智能包括超级智能，在所有智力领域超过人类，结果甚至会威胁到人类的生存。但作者也说至少30年内是不会出现的。

从乐观的角度来看，技术奇点带来了生存的机会，也就是哲学书“存在”的意义。未来人类将有能力修复任何对大脑的损害，并最终在其他基质上构建大脑，这样就可以突破意识的寿命极限，将其无限延长。最激进的方式就是意识上传。如果放弃人类视角，从更具宇宙性的视角来看，技术起点可能是一种生存机会。

人类又该如何应对？束缚人工智能的发展是不可取的，人类不能因为未来的威胁而止步不前，反过来技术元素也有自己的追求，也不会受限于人类这一种“经手人”。相对的，也不能为了求快而盲目前进，最终葬送了自己的未来。

目前，人工智能的发展还处在初级阶段，好像一个陶胚，人类还有能力决定和塑造它的样子，这时候未雨绸缪做一些坏的打算是十分正确的。

祝君安 2018.3.4

99.99% 内容皆非我原创，感谢「得到、喜马拉雅、知乎」等前人大V分享，笔芯。小礼物走一走，来脉脉关注我。脉脉号：changhb