AI与自然选择

昨晚又看了一遍攻壳机动队剧场版，知道人工智能的概念很早，但真正让我往这个方向思考的却是因为这部动漫《攻壳机动队(Ghost in the Shell)》。

其中无罪中有一句值得让人思考的话，人体自身就是上了发条的机器，是永恒运动活生生的样本(人体は自らゼンマイを巻く机械であり、永久运动の生きた见本である )。这句话的原作者是Julien de la Mettrie，一位法国的医学家，出自《人是机器》（L'homme-machine，1747)。里面还有一句话描述，人类是及其复杂的机器…是全世界被给与了多种多样的形态的唯一的物质存在，结合着人类的本质再想想人工智能呢？所谓真实和虚幻，所看到的就一定是真实么？拥有记忆就是真实么？

AI与自然选择

和《银翼杀手2049》的架构一样，攻壳机动队里的时代背景，是人们的生活方式虽然没有发生太大的变化，但有一个很有意思的构想，人类的身体，包括躯干，各个器官，都可以被人造化，因此很多人都对自己的身体做了改造，以适应当时的社会环境，甚至有些人只保留了大脑，也就是个人记忆和意志，被保存了下来，而那些人造的身体被称为义体，义体上都有电脑的终端借口，其一可以接通人类的意识，其二可以和计算机终端进行链接，只要重要的东西(“灵魂”）没有遭到破坏，义体坏掉了仍然可以换一个新的，继续生存下去。

这应该算是广义上的人工智能了吧，因为记忆可以像电脑程序那样被篡改，可以生成一段虚假的记忆，对一个人进行改造，使其沉浸在设计的环境之中。

在攻壳机动队中素子（身体被改造的人类）在一次执行任务时发现很多人类被植入了虚拟的记忆，像棋子一样被操控着，由此她开始思考人类究竟应该任何被定义，一个人存在的证据究竟该是什么，一个人一生的记忆与庞大的世界相比，就像一滴水与大海一样，我们究竟为何而存在，后来一家科技公司和政府合力研究的完全电脑人（人工智能）突然有了有了自己存在的意识，逃离了人类的控制，他开始重新定位自己的存在，思考生命与死亡，这是一个人类该有的行为，最后这个AI与素子的灵魂结合，重新形成了一个结合体，这种复杂的结合，已经不属于我们平时所理解的一般人工智能。

在我们的现实世界中，人工智能的发展，已经将来可能会对我们造成的影响。关于AI的概念，它是指在研究开发中用于模拟，延伸和扩展人类智能的理论，方法技术和应用系统的一门新的技术科学。它包括很多分支，涉及到的学科包括数学，心理学，计算机科学，仿生学等等，它是一门边沿科学，属于自然科学，社会科学和技术科学三向交叉学科。

前段时间在网上看到，一个著名的言论，“人工智能威胁论”，包括很多社会名流和科技大佬都在说明要对现在以及将来的人工智能的发展有所提防。很多人都表示人工智能可能会导致人类的灭绝，而这一切我们都极有可能会亲自见证。

以上的言论绝不是危言耸听，就像开始所举的例子一样，攻壳机动队里面的AI，以后如果发展到那种情况，当我们能更加清楚的了解自身的存在，当人类自己对世界的本源有更深的探索，我们的认知就会发生本质的改变，而这将会伴随着我们的文明一起发展。因为我们正处在变革的边缘，从上世纪“第三次科技革命”到现在，我们一直处在科技发展的瓶颈时，看似风平浪静，实则暗流涌动，现在越来越多的技术进展和核心的突破都越来越明显，也许我们只需要一个契机，来引导，进而引爆这个科技界。如今科技的进步绝不是单点式的，而是立体的发展，一项技术的发展将会带动另一项技术的进步，彼此促进，相辅相成。

关于“AI的威胁论”，该理论是基于人类的加速发展称作加速回报定律（Law of Accelerating Returns)这一理论为前提。举一个简单的例子，假设你有一个可以自由穿越时空的机器，你从18世纪的欧洲带来一个那个时代的普通人，当他跟着你回到我们现在所处的时代，他可能会疯掉，不明白汽车，电视，电话，在那个说话靠喊走路靠马的时代，他对我们这个时代是没有任何的概念的，这时候别忘了，你还没有告诉他，什么是互联网，原子弹，宇宙飞船，大型粒子碰撞机还有量子力学以及相对论。

但如果一个18世纪的人，穿越时空回到15世纪，再把那个时代的人带回到18世纪，当然世界有很大的变化，但还不至于没有任何的概念，他至少不会发疯，甚至可以靠自己继续在这个时代活下去。

我想通过上面就可以说明，我们是处在科技发展指数爆炸的时代，以后的发展将会越来越超出我们自己的想象。然后让我们再次回到人工智能上面，在科技爆炸的时代，人工智能的发展也会是爆炸的，从弱人工到强人工，再到人工智慧，当这些人造的生命开始学会自己思考时，我们就会有麻烦了。我们人类花了数亿年的时间来演化的生物大脑，如果按这种想法，当我们能够生产出超级人工智能，也就是类似于人类的智慧，那就是在加速自然演化了，当然很有可能这也是大自然的演化方式，可能真正的演化就是强智能取代弱智慧，其实说取代有些不合适，更合适的说法应该是占主导地位，但还有一种可能就是不友好的演化，当这种演化进行到一定程度上，尤其是这种我们人类加以干预的演化，当我们有一天真的制造出了一个超级人工智能，而这个节点就好像是一个临界线，一旦越过了，就如同踩在了地雷的绊线一样，会对我们以及地球上其他生物的存在造成威胁，进而改变这个地球上所有的存在以及包括我们人类在内的所有生物的命运。

AI与自然选择

这样想起来的确很可怕，但由强人工智能所引起的演化我觉得会有两种方式，一种是灭绝，而另一种则是它的对立面——永生。

关于人工智能，现在可以把它分为三类

弱人工智能Artificial Narrow Intelligence (ANI):

弱人工智能是擅长于单个方面的人工智能。比如有能战胜象棋世界冠军的人工智能，但是它只会下象棋，你要问它怎样更好地在硬盘上储存数据，它就不知道怎么回答你了。

强人工智能Artificial General Intelligence (AGI):

人类级别的人工智能。强人工智能是指在各方面都能和人类比肩的人工智能，人类能干的脑力活它都能干。创造强人工智能比创造弱人工智能难得多，我们现在还做不到。Linda Gottfredson教授把智能定义为“一种宽泛的心理能力，能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”强人工智能在进行这些操作时应该和人类一样得心应手。

超人工智能Artificial Superintelligence (ASI):

知名人工智能思想家Nick Bostrom把超级智能定义为“在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能。”超人工智能可以是各方面都比人类强一点，也可以是各方面都比人类强万亿倍的。

关于最后一种，ASI，这是一种值得我们提防的人工智能，在如今知识爆炸的当代，也许用不了多久，强人工智能就会实现，ASI也许离我们不会再有多遥远。

它可能对我们造成的影响:

1.智能放大：电脑能够很擅长让自己变得更聪明，快速提高自己的智能。

2.策略：电脑能够策略性的制定、分析、安排长期计划

3.社交操纵：机器变得很擅长说服人

4.其它能力，比如黑客能力、写代码能力、技术研究、赚钱等

如果要想理解我们在和ASI的劣势在哪里，只要记得超人工智能在所有领域都比人类强很多很多很多个数量级，也可以说是无法比较的。

来看看思想家Bostrom是如何看待的，已经不是科学家或是有关AI方面的专家的评价了，这是否说明了什么？

1）超人工智能的出现，将有史以来第一次，将物种的永生这个吸引态变为可能。

2）超人工智能的出现，将造成非常巨大的冲击，而且这个冲击可能将人类吹下平衡木，并且落入其中一个吸引态。

至于永生再做最后的解释，回到攻壳机动队上，素子和AI的结合，就是人类永生的代表，一个人之所以会存在，不是他的肉体，而是他的精神，记忆，大脑控制着我们的一切，这一点我想每个人都会认同吧，然而大脑的思维可以被继承，这一点在未来的发展将有很大的几率将其实现，就像读取U盘一样简单，人类的记忆也许可以被储存在一个小小的类似于U盘的储物之中，再找一副人工的义体，便实现了重生，那这个人是AI还是人类呢？谁知道呢？

AI与自然选择

最后，如果超级人工智能真的在21世纪实现的话，真的就像我们想象的那样，人类的命运将会得到选择，希望那时候，我们不要搞砸了。