规模庞大的3A大作中有数不清的场景，如果设计师在某个地方有所失误，就会导致游戏全盘出现错误，比如一位《巫师3》的开发人员偶然发现，他可以打开游戏中所有的门......由于程序并不清楚哪些门在任务之前是永久锁闭的，哪些是可以开放的，所以就将游戏中所有的门都设定为开启，“这导致了游戏中所有门都打开了，”Tost说，“我还记得解决这个问题的过程很辛苦，任务设计师得重新走入游戏中的每个门，一个个加上标记：‘这个门之前是关着的，任务完成后需要重新打开’。”
《巫师3》的某一任务奖励是开启特定上锁的大门，却开启了“所有”上锁的大门，而其中大半本是虚假的贴图，导致玩家误入大门后堕入虚空。开发人员不得已只能化身为玩家，在代码之外的图形世界里一扇扇门进行排查，不论是疏忽还是无能，这都导致了之后大规模的返工。门打开后会发生什么是可预见的，无论是堕入深渊还是安然进屋，这里还是有个设计人员能理解的终极框架提供了某种可见的边界；但在现实生活中，尤其是智能体被赋予更高的权限时，杠杆游戏或许会演变为一场不可控的灾难。
《未来简史》中人工智能兴起，人文主义跳出来说人类危险了，要保持警惕。然而仅仅抛出问题是挡不住时代巨轮的，人工智能在关乎人类福祉的众多领域都能发挥人力所不能及的巨大作用，而人文主义者也是最希望人类能拥抱普世幸福的人，于是科技人文主义横空出世，扭捏地舍弃过去、拥抱未来，提出心智升级的概念。
无论是哪个主义都只是提供了看待事物的一种维度，这并未影响到自由人文主义者担忧的事实：人类或将被一个更适应世代的物种在多方面所取代。或许那是《异形》中的机器人大卫：篡夺创造者的光环，罔顾旧物种的死活。我们是否要先打一剂强力预防针以绝后患？
机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；
机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；
机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
机器人三大定律是小说的产物，作者连如何定义其中两个主语都未说明白，自然从未有人应用其到实际开发中，更不可能将它当作强人工智能的唯一指导方针，顶多作为机器可参考的直觉之一。面对这样对人类看似不利的局势，科技人文主义提出人类势必要强化自身在未来的影响力，即守护人类意志，这须成为共识。
在《未来简史》中提到人类（的大脑）并非完整而独立的个体，而是由许多生化和电子算法组成的混合体，至于自由主义和中国心学，那无异于中世纪宗教。就连创造性艺术也只是“有机算法发现数字模式之后的产物”，对于那些非有机算法来说具有低成本的可复制性。
印度的婆罗门和刹帝利们如果知道自己的大脑在构造和生物活动上与贱民无异，不知会作何想。所幸对于富人和权势阶级来说，他们享有科技的优先使用权。从穿戴式设备到潜在疾病侦测，从专注头盔（tDCS）到脑机接口（BMI），这一部分人是不会甘愿被轻易取代的，他们对自我的崇拜将不再止步于著自传，造语录上。届时贫富差距会带来“生物学上的差异”，正如前文所说，在人类意志为先的前提下，某些人不仅可以游离于算法系统管控之外，还能坐拥更先进的机能以最高统帅的姿态引导计算机算法指点江山。
我们期望的晚餐并非来自屠夫、酿酒师和面包师的恩惠，而是来自他们对自身利益的关切
——《国富论》
但可悲的是即便人类整体上呈发展态势，这样的生物级别控制显然进一步阻滞了阶级流动的机会。《未来简史》认为症结在于这绝非是雪中送炭（肺结核、天花等疾病的局部至全球化的治愈），而是实在的锦上添花（让普通人更健康、更强大）因此科技人文主义者是否需要警惕这样可能被少数精英阶级挟持的未来，即便那些人或许心怀全人类前途？在此书中给出的解决方案是提供分散式处理的“数据主义”。
盎格鲁以最自由而平等。泰东以无自由而亦平等
——《社会通诠》
皆无自由所以平等？由于我对相关的科学案例、器材以及历史几乎是一无所知，所以也不清楚数据主义这一章节是否阐述了当下处在行业风口的“大数据”由来的原因，还是一种马后炮？无论如何，书中确实给数据主义的存在合理性从社会学角度提供了一种解释。事实真的如此吗？
人的自由最终被锚定在观念选择的自由上，而这种自由，却是由层层监管和控制的信息链所提供的。因此，大数据时代新的形而上学正在产生一种新的政治图景，一种由秘密警察和网络康采恩操纵的政治，一种门后的秘密政治，一种由技术官僚统治的去民主化政治。这种由技术实施的全方位的监控，实际上为一种古老的政治愿景提供了决定性的效力：无论情愿与否，人们都不能说更多。由信息链主导、控制的数据网络表明了政治力量对日常生活世界的隐秘侵占，这种侵占正在摧毁着民主政治的重要基础。
早有学者提出了数据化的弊端：所有人的数据被监控和被利用。我想这里有一个前置条件，就是不同阶层的人对于数据工具的可接入程度是不同的，这几乎与前文提到的“科技优先使用权”别无二致。自由主义中的一些理论，诸如哈耶克提出的一般性规则之私域和洛克等人提出的受权利界定之私域都是现今宪法就人权部分的理论基础，如果主流社会信崇的主义被取代，那么是是否要重写宪法或加个补丁：以争取全体利益的角度来说，个人的私域（人权）是可以被适时适当侵犯的。
除此之外，还有一个更加惊悚的事实或许值得深思，即便获取数据的途径和内容一致，不同阶层持有不同的数据分析工具，利用数据的动机、情境是大相径庭的，数据放开后的社会将呈现一种由根部向上汲汲输送的非对称形态。即便打着“数据民主化”的旗帜，也不得不面对旧制度的限制甚至歪曲，这与较保守的科技人文主义真是殊途同归：一个是生物级别的神人，一个是意识级别的神人。当然了，作为同样未达成心智升级的笔者，也只是凭经验给出一个可能罢了。我不清楚尤瓦尔所说的各种新主义（数据主义和科技人文主义）是否暗含表达了应摈弃所有《人类简史》中曾提及的人类进化史所涉一切工具、体制等，或者我对公平的执念本身就陷入了”落后“心智的怪圈？如果是那样，尤瓦尔真的是很擅于为自己开脱。
或许人类的既有观念、社会意识等是那臆想中演化成更优越形态的累赘。可能我们还是要把法治交还给人治，让神人们来处理一系列心智不够成熟的你我无法理解的问题，并祈求他们能带我们去一个更好的未来。
更多阅读：“大数据时代”的美国隐私权保护制度
网友评论