第三部分 智人失去控制权
第8章 实验室里的定时炸弹
现代科学研究表明，人只是生化算法的组合，人所拥有的只不过是一条随时可变的意识流，人的选择不是生物预设就是随机，“自我”是物理可分的，根本没有人文主义信奉的所谓“自由意志”，这就破坏了人文主义的信念。但是很多科学家不愿正视科学与自由意志之间的矛盾，假装看不见。
摘抄：
如果生物确实没有自由意志，也就意味着只要使用药物、基因工程或直接对大脑进行刺激，就能操纵甚至控制人的欲望。
如果我真的深深地去探究自我，就会发现自己一向以为理所当然的单一性分解成各种互相冲突的声音，没有哪个是真正的“自我”。人类绝非“不可分割”，而是由许多分割的部分组成。……实验告诉我们，人体内至少有两种自我：体验自我及叙事自我。体验自我是我们每时每刻的意识，体验自我并没有记忆力。……说到要唤起记忆、讲故事、做重大决定，负责的是我们心中另一个非常不同的实体：叙事自我。每次叙事自我要对我们的体验下判断时，并不会在意时间持续多长，只会采用“峰终定律”，也就是只记得高峰和终点这两者，再平均作为整个体验的价值。体验自我与叙事自我是紧密交织的。叙事自我对饥饿赋予不同的意义，就会让实际体验大不相同。体验自我往往也强大到足以破坏叙事自我完美的计划。
荒谬的是，我们对一个想象故事做出的牺牲越多，就可能越坚持，只为了让我们的一切牺牲和痛苦有意义。
活在幻想里是一个更为轻松地选项，唯有这样，才能让一切痛苦有意义。
如果想让人相信某些假想实体，比如神或国家，就要让他们牺牲一些有价值的东西。牺牲令人越痛苦，他们就越会相信牺牲奉献的对象确实存在。
“自我”也像国家、神和金钱一样，只是虚构的故事。每个人都有一个复杂的系统，会丢下我们大部分的体验，只精挑细选留下几样，再与我们看过的电影、读过的小说、听过的演讲、做过的白日梦全部混合在一起，编织出一个看似一致连贯的故事，告诉我们自己是谁、来自哪里、要去哪里。
人类十分擅长应付认知上的矛盾，能允许自己在实验室里信一套，到了法庭或议会又信完全不同的另一套。
第9章 大分离
科技发展将使算法在记忆、分析和辨识各种模式的能力上超过人类，而且人类逐渐走向专业化，所以用计算机代替人类将越来越容易。随着算法将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的少数精英手中，造成前所未有的社会和政治不平等。又或者，算法本身在未来能获得类似“法人”的地位，某一套算法就能拥有一个运输帝国或创投公司资本，而不必服从任何人类所有者的命令，我们最后面对的可能是一个由算法组成的上层社会。当然，科技上的困难和政治上反对可能会减缓算法入侵就业市场的脚步，而且人类心灵还有大片未知领域，不确定人类是否还有什么隐藏才能或能创造出什么新式工作，社会系统未来可能仍然需要人类，但是却将剥夺个人的权威和自由。因为，未来每个人都可能会是整个巨型全球网络的一部分，与这个网络断开就意味着死亡。算法系统对你的了解会超越你对自己的了解，算法系统也会代替你做出大部分重要决定。这样的世界不一定不好，但这将会是一个后自由主义时代。还有第三种可能，即社会系统仍会认可某些独特的个人有价值，但这些人将会是一个超人类的精英阶层，而大多数人则成为低等阶级，被计算机算法和超人类管控。人类如果从生物学定义上分裂为不同的阶级，就会摧毁自由主义意识形态的根基。
摘抄：
自由主义推崇自由市场和民主选举，是因为自由主义相信每个人都独一无二、各有价值，而且每个人的自由选择就是权威的本源。但在21世纪，有三项“务实”的发展，可能会让这种信念成为明日黄花。
“智能”即将开始与“意识”脱钩，人类因此面临失去经济价值的危险。
从生命科学的角度看，艺术并不是出自什么神灵或超自然的灵魂，而是有机算法发现数学模式之后的产物。若真是如此，非有机算法就没有理由不能掌握。
19世纪，工业革命创造出庞大的城市无产阶级，这个新的工作阶级带来前所未见的需求、希望及恐惧，没有其他信仰能够有效响应，社会主义因而扩张。到头来，自由主义是靠着吸收了社会主义的精华，才打败了苏联和东欧社会主义。到了21世纪，我们可能看到的是一个全新而庞大的阶级：这一群人没有任何经济、政治或艺术价值，对社会的繁荣、力量和荣耀也没有任何价值。……想要不被淘汰只有一条路：一辈子不断学习，不断打造全新的自己。只不过，许多人，甚至是大多数人，大概都做不到这一点。
在21世纪，与其说个人会被外界力量残忍碾碎，还不如说会先从内部缓缓崩解。……我们会发现所谓不可分割的个体只是一个宗教幻想。现实中，个人是许多生化和电子算法的混合体，没有清晰的边界，也没有自我中心。
21世纪的新科技可能会彻底扭转人文主义革命，让人类交出权威，把人类送到非人类的算法手中。推动这个趋势的主要力量来自生物学的洞察，而非计算机科学。一旦生物学家判断生物也是算法，就等于拆除了有机和无机之间的那堵墙。
自由主义面对社会不平等的解药，不是让每个人都有同样的体验，而是对不同的人类体验赋予同等的价值。
网友评论