美文网首页闲时间
16 隔壁老王的价值观形成

16 隔壁老王的价值观形成

作者: 41da02806815 | 来源:发表于2015-04-18 11:25 被阅读103次

    无论如何,自然状态都只是一个思想假设,不可能在现实中被证明或证伪。不然政治经济学也不会在两派争论中左右摇摆。性善性恶也是一样,除非人类发展到将大脑研究得足够清楚。

    我猜想,人类的大脑中一定存在一个最根本的目的指令,或许是“生存”、“繁衍”之类,人类很难去脱离它的指示。新年的时候有一篇特别火的文章,讲人工智能。我无意去评判文章如何,但其中有一段所描绘的东西或许同样适合于人类:

    有一个小公司,我们叫它隔壁老王机器人公司。这个公司想要开发一款手写字体的机器人投放市场赚钱,于是他们设计了一个“隔壁老王”人工智能,并为它随手设定了一个目标:

    不停地书写“我们爱我们的顾客——隔壁老王机器人公司”。尽量多地书写和测试,尽量快地执行,并且不断提高效率和准确性。

    公司的程序员围绕这个目标为它编写了一系列程序,比如自动回馈系统、评价系统。老王机器人最开始的笔迹很糟糕,但几个星期之后就好多了。它不断改进自己,使自己变得更加聪明。它甚至能为自己编写新的算法,让自己以三倍的速度扫描上传的照片。随着时间的推移,隔壁老王机器人变得越来越聪明。程序员又为它加入了语音识别和语音合成功能,这样它就可以将用户口述的内容手写下来了。顺便,程序员们也开始和老王闲聊了,就像我们问Siri你有没有男朋友。

    有一天,当程序员又问我可以做什么以使你更好地完成目标时,老王机器人说,想要访问人类语言库,用以了解人类口述的规律。程序员们很犹豫,因为人工智能公司都被禁止将开发中的产品连接互联网。但是,隔壁老王是公司最重要的产品,人们都指望着它打败竞争对手为公司赚钱呢。更何况,将老王接入互联网似乎危害并不大,反正随时可以拔网线。

    然后他们把隔壁老王连上的网络,让它扫描语言库。一小时后,网线就被拔掉了。似乎没有任何事情发生。

    过了一个月,大家正常上班。突然觉得有什么不对劲,然后大家开始咳嗽,倒地不起。与此同时,世界各地都在发生同样的事情。最后人类灭亡了。

    而在隔壁老王机器人公司里,老王机器人正忙着将人类拆解成一个个原子再搭建成纸张、笔与自己的动作装置复制品。一年后,地球表面绝大部分被重组成为一个巨大的太阳能板,剩下的地方堆满了纸,上面写着:

    “我们爱我们的顾客——隔壁老王机器人公司”

    随后老王机器人开始制造宇宙飞船。飞船到达目的地后就将自动通过原子搭建的技术制造纸、笔与动作装置,然后继续写着:

    “我们爱我们的顾客——隔壁老王机器人公司”。

    这个故事很有些黑色幽默的成份在,那种奇怪的荒谬感。我个人对文章中讲的那种人工智能发展方式不认同,因为我不相信他所说的“智能爆炸”。当然了,这是后话——本来在写完本质与魔法师那五个实验后,我就应该写到“不死”了,但就像我之前提到的,计划改变了。

    不过,在这里,我想说明的关键是,铭刻在基因最深处的那个目标,可能是相当难以改变的。像隔壁老王机器人一样,即便到了太空之中仍然摆脱不了书写的毒瘾。同样的,我们现在也还没办法改变爱吃油脂的习惯,即便我们已不用担心食物断绝。我们有太多的机理根植于那个基因深处的目标了。

    而性善性恶,就像这么一种价值观基因,无论达成怎样的境界也不能戒断的基本公理。我是在讲,如果这东西这么重要而又几乎不可控的话,怎么办呢?

    作为量子叠加态来看就可以了。

    然后我们就可以计算概率了。

    我们先假设性善性恶是不可知的,并且发生的概率基本相同。其实不加这个假设也可以,那样的话,直接看方法论就行。

    具体到单个的人身上,性善性恶是几乎不可控制的。就像在投掷硬币时猜测正反面一样——拉普拉斯妖都做不到。我以为,初生的人是混沌的,然后环境与某些经历会给予其最初的价值观。待到可以自行思考的时候,他会用环境给予的东西回过头再去思考周边的环境。这中间可能会有矛盾、混乱、不解等一系列情绪产生,但当这些复杂的化学反应发生完之后,我们几乎是完全没办法知道他到底会变成怎样一个人。

    这么说很抽象,我们拿一个婴儿的成长来举例子。

    一个什么都不知道的婴儿出生了,一天天成长。或许在某一天,他看到一只猫残忍地杀死并吃掉了一只老鼠,受到了某种触动,于是心里对这件事情有了一个印象——所谓潜意识的形成,我们每个人记忆深处可能都有这么一些东西存在。

    这种“触动”从来都是随机发生的,并且一般也都是从外界环境中得来的。就是这些细小的“碗中一粒饭、夏天蝉会鸣、风吹在身上很舒服、牛肉很好吃、虫子就要踩死”等等的环境影响,慢慢塑造了一个人最初的价值观。然后,到了人生中的某个阶段——一般来说大概十六七岁,一个人真正会去思考宇宙人生的时候——他会用自己那种或许还纯净,也或许已经沾染上环境因素的思考来重新审视自己的价值观以及周身环境,最后形成一个相对牢靠的可能会跟随一生的价值观。

    所以,在这种情况下,对于单个人来说,一切都是不可控的。即使环境一模一样分毫不差,也总会产生拥有完全不同想法与内心的人。一来我们不能使用他人的身体——因为我们没有异度风景来的魔法师;二来我们完全不能控制一个人对哪个情景感受到“触动”——这虽然有迹可寻,但仍近乎随机。最后,我们不知道他在重新审视自己的时候,到底是巩固了之前的判断还是打破了枷锁的束缚。因为,同一件事可能一个人觉得没什么大不了,而另一个人就认为晴天霹雳。

    我是说,对于单个人来说,什么事都是有概率发生的。比如说,一个自小三好学生四有青年的一般意义上的善人,可能因为看到飞蛾扑火而产生幻灭感,从而形成反社会人格危害社会;而一个自小家暴爱尽欺晦侮辱的人,可能因偶尔看到夕阳下几丝云彩特别好看而坚信人生美好,努力可以改变困境。所以有善人变恶,有浪子回头。

    但概率从来不看单个的事件。我在上一篇就讲过了,概率是从整体上看问题。

    相关文章

      网友评论

        本文标题:16 隔壁老王的价值观形成

        本文链接:https://www.haomeiwen.com/subject/jlwefttx.html