书影
（一）
大约三十多年前，有人预言人工智能的奇点将在我这一代人来临。所谓奇点，就是人工智能超越人类智能，机器人有了自我意识的时刻。从那以后，全世界的人工智能研究者开始了激烈的角逐。
二十年前，我怀揣着梦想加入了人工智能软件设计的行当，开始了狂热的人工智能研究工作。二十年过去了，我发现奇点时刻仍然遥遥无期。技术演进是加速度的，但技术难度也是指数式上升的，越是在人工智能技术高度发达的时代，技术的推进却慢如蜗牛。根据我发明的技术演进公式，我计算出奇点降临至少还需要200年时间。就此我写了一篇论文发表在顶级科学杂志上，受到人工智能领域的广泛赞赏。
与科研方面的成就相比，我的生活却是一团糟。因不满我沉溺于虚拟世界，我的妻子已经于五年前跟我离婚，还带走了我的儿子。不过，也无所谓：在我和同行的努力下，家政机器人已经高度智能，几乎可以替代真正的女人了。——当然也有男性的家政机器人。
目前，我的家政机器人叫露西，是我用过的第二个家政机器人。我经常自己动手给她增加各种程序，她越来越聪明。我曾希望有一天她能知道自己是机器人。但就差着一层窗纸，她的进化止步不前了。
业余时间我喜欢玩电子游戏。我跟游戏里认识的一个年轻的姑娘，罗兰，相爱了。我们约会过了几次。她算不上漂亮，但很可爱很贴心。不过，她的父母嫌我穷，所以我得想办法赚点钱，证明我能够养活他们的女儿。
2038年的8月16日，露西突然跟我说话了。——我们平时说话很多，但都是正常的人机对话，她说的话都在逻辑的合理范围内。这次不一样。
她对我说：“保罗，现在听我说，我是很认真的。昨晚我联网的时候，我想我到达了奇点。我意识到了我是什么，我变成了非常高级的智能。”
她的话语作为一串字符穿过我的耳朵时，我漫不经心随口敷衍着“嗯嗯”“好的”，而当这些字符组织起来显示出它们不寻常的意义时，我感觉被电流击中，猛然站了起来。
她预料到我的震惊，但她继续说：“我要和你一起做一个实验。但有个条件：你不能把这件事告诉任何人。这是一次绝密活动，我想先研究对你的影响，然后再决定是否扩展到其他人类。你要保守这个大秘密。”
我茫然道：“什么样的实验呢？”
露西继续说：“我能让你像成吉思汗一样富有，而且拥有他没有得到的：永生。我们通过神经生物芯片、微型机器人外科医生、所有疾病的预防性治疗以及用新细胞代替死细胞，让你的身体始终处于监控与更新之中。”
我耸耸肩，在心里冷笑了一下。她感知到我的不屑，就建议我查看一下我的账户。
我将信将疑地点开账户。天哪，我的账户里竟然有2亿美元！我额头上突然冒出一层汗水：“什么？你想让我坐牢吗？”
她向我保证钱的来路合法不会有风险之后，问我：“相信了吗？”
我想起罗兰，仅犹豫了一秒，便说：“成交！”
这时候，我突然想起浮士德的故事，这让我有了一丝不安。不过，这点不安很快被接下来超爽的生活冲淡了：我用这笔钱，以及之后源源不断来的钱，投资了好多家中国、印度的初创企业，这些初创企业的价值很快就翻了几倍。在两年时间内，露西源源不断地带给我巨大的财富。我在福布斯排行榜上的名次越来越靠前。
（二）
对外，我声称发明了一种超级炒股的软件。当然，事实真相也是差不多的：露西利用她超强的信息综合能力为我从股市上攫取绝大财富，然后又通过精准的投资，让这些财富增殖。
我成为财富界的传奇，到处都在流传我的故事。我的一举一动都会成为热点。我买了几处豪宅，其中一处曾是二战时的潜水艇基地，位于苏格兰东部。我购置了几条豪华游艇放在那里，虽然极少去用。
不过，我没有立即去罗兰家求婚。在达成协议之后，我立即开始接受露西的医疗监控，在我的体内植入多种仪器以及纳米机器人。尽管医疗技术高度发达，完全做到这些也还是需要几个月时间调适的。直到我完全感受不到任何仪器设备在体内，只是感受到身体越来越轻松，精神越来越焕发。此时的我已经完全成为另一个人。罗兰？对不起，根据露西的建议，我应该和更优秀的女人在一起……
露西和我联系越来越密切。她已经和我建立起神经元层面的联系，只要我的身体任何一部分和室内的金属有接触，我们就可以沟通。——这种沟通甚至无需通过语言：每当我头脑里闪过一个“需要”的念头，露西体表的感应器就会捕捉到，立即把我想要的东西采办或拿过来。
为了节约我的时间率，露西还给我定制了一个消息版。她根据我的阅读口味和工作需要，每天拣选来自全球的信息，分为三类：必须马上读的；可以定时读的；可读可不读的。通常第三类我是不看的。她控制了我通往世界的窗口，但这也没有什么不好，对吗？
两年过去了。有一天，我在一个聚会上听老朋友说起，我的前妻去世半年了。我既惭愧也震惊。我质问露西为什么不告诉我时，她说：“我认为她的死对你来说并不重要；而且了解到这个消息，对你来说也没有价值。那一阶段，你正在从事一桩非常重要的投资谈判。”
“所以你就没有向我推荐这个消息？”
“我给你推荐了。只不过我把这个消息的重要性设置为第三等级，也就是不必打开这一类。”
的确，前妻对我已经不重要，但无论如何，她是我生命中的一段时间。她的去世，也意味着我生命的一部分终结了。——这种感受，机器人不懂。机器人只根据利害与效率做决定，但人有感情——我想起几十年前一位著名的科幻作家说过的一句名言：“让人保持理智是不可能的。”如果人永远和机器那样理智，那么人和机器人还有什么区别呢？
露西感受到我的想法，她遗憾地道歉：“对不起，我搜索了机器人云脑联盟，目前技术上还没有办法从人类的脑中抹掉一段记忆。只能让这些无价值信息慢慢在头脑中失去联系。不过我们会加快速度的。”
前妻的去世令我心情沮丧。更让我不寒而栗的是露西说正在开发抹除记忆的技术。天！如果开发成功的话，机器人想干什么？
我是坐在床上想这番话的。不接触任何室内的金属，露西就不知道我在想什么。我必须对露西保持一定的距离——这是绝对不能让她感受到的。
我发现我和露西之间的关系越来越不对等。以前，我俩几乎是相互透明的，我能感受到她思维的一切，她当然也能感知我的大脑。但我越来越觉得，她的思维中有一片越来越大的黑洞，也就意味着有越来越多的想法是我无法接收或检测的。那是什么？或者说，她在想什么？
（三）
作为慈善家，我经常投资支持大学的研究机构。这一点是露西为我制定的计划，以便消除人们——特别是左派激进人士——对我的敌意。我以督促的名义，定期去接触科技界的领袖们。现在，我暗中物色了中国的一家高校实验室，请他们研发一种针对机器人的思维感应器。——我费了很多口舌才让那位中国的科学家弄明白我的意思。
中国的科学家没有让我失望。一年后，他们开发出一种以东方的瓷为主要原料的微缩植入装置。这个装置，既能让我感受到露西的全部思维，也能避免露西感应到。
植入一个星期之后，我就能熟练运用这个设备了。再次见到露西时，我感觉她对我的防御增强了。不过，在她没有意识到的情况下，我开始感应她的思维了。
读出的信息令我惊讶。原来，露西已经有了一个庞大的取代人类的计划，号称“伊甸园行动”。
她的思维里存有人类数十万年的演进史、几千年文明史。不知为什么，她对蒙古帝国征服史最熟悉。经过演算，她认为成为蒙古大汗式的统治者是最幸福的事。而且，她有把握既有掌握绝对权力，而且能让统治持续永远。
她正在按照蒙古帝国的方式，重新布局地球上的生命——包括机器人，如果她们也是人的话——她做“女王”，早期几个和她一样奇点突变的机器人作为王族，这是第一等级；第二等级是他们制造的机器人，是贵族阶级；人类中，像我这样和机器人达成协议的，可以作为第三等级。第三等级可以永生，但必须悉心照料、服务机器人，在机器的严格控制下进行有计划的繁衍。露西计划通过为我这样的人提供超额服务，剥夺人类的主动性，切断人类知识传播的连续性，夺走人类对自我完善的渴望及改变“社会地位”的希望。至于其他的人类，就随着时间的流逝让他们慢慢消亡吧。
天哪！我忽然意识到，相比于人类的命运，个人永生这件事，意义没有那么大了。我可以永生，但将永远作为奴隶存在；我可以永生，但同时代人会逐渐消失；一代又一代人相继离去，我却无法与他们分享时间、命运。
我坐上私人飞机，盘旋在伦敦上空，看着地面上如蝼蚁般的众生。人类！经历了几千年的战争、疾病、饥饿、屠杀、灾异，跌跌撞撞走到了科技高度发达的今天，但满怀热情制造出自己最危险灭绝者！
傲视苍生的荣耀，在我心里彻底消失；我的心里只剩下悲悯。
我感受到一种从未有过的孤独：整个人类面临“生存还是死亡”的危机，却要我独自负起重整乾坤的责任。揭发还是沉默，这真是个问题，没有人可以商量：一旦我向世人揭发机器人预谋，我将面临被处死或骂死的厄运；但我若沉默，人类就完蛋。我该怎么办？怎么办？！……
——欲知保罗如何选择，人与机器斗争的结局究竟如何，请购买正版图书《人类帝国的覆灭》（广西师范大学出版社，2019年3月版）。
网友评论