36 人工智能创造的AI

作者: 41da02806815 | 来源:发表于2015-05-03 22:17 被阅读603次

首先,我们来看这种多层次结构的所谓“上帝”与“凡人”关系。这种结构可以衍生推广很多层,直往无限大都说得过去。不过,最基础的也就是三层结构,就是这个游戏所展示的样子。

我们先把横跨多个层次的玩家给抛开。

多结构层次与单结构有什么差别吗?我在前面说过三种上帝与凡人的关系方式,如果就前两种来说,没什么不同。关键还是在于第三种,所谓“上帝创造了初始条件并部分控制凡人”。

在这种情况下,单层上下结构与多层结构的最大不同在于,多了许多空隙。这种空隙就给跨越层次留下了不小的空间。我们之前谈过在单层次关系之下凡人要如何刺破上帝的封锁,在那种情况下,我们还必需要求助于上帝的设定。现在,当存在多层有上下关系的“上帝”之后,空隙的产生就在于,每个层次的上帝都是拥有“设定”的权力的。

其实,虽然存在层次之分,它们之间的权力大小其实相差并不多。

啊啊啊,这么说太过模糊了,我们还是来举例子:

如果我们是程序员,而我们在电脑里创造了一个人工智能。这种时候,我们确实设立了这个人工智能的所有初始状态,并且亲手给它加上了自由成长的能力。我们每次管理这个人工智能,都能完整地看到其内部代码,想要它做什么它就必须做什么,这就代表我们对这个人工智能的部分控制权。这里所谓的“部分”,就是指,我们毕竟还要回家吃饭睡觉抱老婆孩子,哪能全天候地监视人工智能在干什么呢?并且,需要的时候,我们想怎么控制它就怎么控制它想怎么改变它就怎么改变它,它根本不可能违抗我们的命令。

不过,当这个人工智能成长到一定程度的时候,就已经有可能脱离程序员掌控了。而它赖以摆脱控制的根源,就在于我们作为程序员为它设定的自由成长的能力。它确实不能摆脱我们的命令,但它可以借由我们的命令来让我们发不出任何命令。我在第十六篇提到过那个隔壁老王的机器人故事,大抵如此。

然而,这种超脱控制的方式仍然是单线的。

所谓多线的超脱是什么呢?

就是说,当程序员给予人工智能以“创造”的能力时,人工智能自己搞出来的一个超出程序员的东西。打个比方,如果程序员给自家的自动升级人工智能设立的目标是搞一个游戏出来,越好玩越好。于是这个人工智能利用这个权限,在游戏里写了一个以杀死全世界所有人类为目的的敌人AI作为boss,以便玩家玩得爽一点。而这个人工智能为了让游戏更好玩,尽全力提升那个AI的能力,直到有一天,AI超越了那个人工智能,也超越了人类。

当然了人工智能的缩写就是AI,不过为了便于区分,这里的人工智能与AI是不同的东西,大家都能理解的。

因为同样是程序,AI就比较容易地穿透了游戏的沙箱,在人工智能不知情的情况下来到了与之相同的层次上运行。这一定比人工智能超脱到人类的层次更容易,因为,在人工智能的基础设定里并不包括自身的安危或者其他什么的。我是说,对自身安全保护建立在必须完成指定任务的前提下,也就是说,我之所以不可以死掉,是因为我死掉就不能开发这个令人觉得好玩的游戏了。而当死掉对这个好玩的游戏有帮助时,人工智能也并不会在乎自己死活。

这当然只是其中的一条逻辑,你可能会说,可以在初始设定里加入其他限制什么的。然而,只要你想让它做事,你就赋予了它权限,而这种权限就可能在你知道或不知道的时候诞生出下一个世界,在那个世界里,它就成为了上帝。只要层数够多,所有的限制条件都可以重复那种单层结构的处理方式来打破,并且会越来越容易。层数越多,空隙越多,漏洞越大。

于是,在上面那个例子里,人工智能设计的游戏boss的AI就这么从潘多拉盒子里自己爬出来了,然后遵从它被设定的目标,杀死全世界所有的人类。可能还有条设定是,它在遇到什么手持双刀或法杖或光枪或能量刀的勇者法师士官长的时候就一定要被干掉,它也忠实地遵从这一条原则,就像我们这个种群也忠实遵从繁衍的天律。只可惜,现实里真没有Good Hunter。

到这里,我们确实可以说,如果确实存在第三种关系的上帝的话,也可以存在超越它的方法。但是,如果我们仔细研究我上面所谈到的玩意儿,会发现,这些方法在根底上还存在两条假设:

一,被创造者必须有可能与上帝所在的世界发生联系。我是指,需要存在一定程度以上的联系。毕竟,既然是创造者与被创造者的关系,不存在联系是不可能的。

我讲这一点是因为,我不认为所有的创造都可能对上层世界产生影响。譬如说,我写了一本小说,在小说里竭尽心力搞了一个尽乎全知全能的生物出来。那么,那个生物能跨越过书本的限制影响到我的生活吗?

呃……可能也说不准?

但我相信,这中间必定存在一个联系程度的问题。就比如说,电脑程序就可能更容易超越我们人类加之于其身的封锁,但小说里的鬼怪一定相当困难。如果说那些小说内的人物以一种情感传达的方式对读者造成影响……似乎也不能说它们没有超越,但相比于那几个AI,程度实在差得有点大。

二,被创造者确实存在在某方面超越创造者的可能性。这一点一直是一种隐形假设,如果这一点不可能,那基本一切都是白扯……也不算啦,用这套东西写小说一定好看。

这种可能性以目前能观察到的情况来看,已经是存在的了。毕竟,你写一段程序,能保证它不出Bug吗?如果不能的话,那它不就在Bug层面上超过你了嘛。而可能性是很重要的,只要存在可能性,按照概率,就一定会发生。这是我在前面谈概率时谈到的基本想法。

然后就是,多层次身份存在的家伙了。

相关文章

网友评论

    本文标题:36 人工智能创造的AI

    本文链接:https://www.haomeiwen.com/subject/tszbfttx.html