查克走进那个房间，发现自己面对着一块巨大的屏幕。屏幕上出现的是一台外形非常陈旧，并且不具备自主行动能力的大型计算机。他的正面正是那个由古老的铜锁和钥匙组成的徽章。
“欢迎，查克。”
他的声音是那么熟悉，那个有些苍老的智慧老人的声音。
摄影：珊珊
长老告诉查克，屏幕上的是他刚被创造出来时候的样子。“是不是非常陈旧？不过在当时，我是世界上储存信息量最大并且运算速度最快的计算机。
现在，来告诉我你的故事吧，查克。”
查克把自己所有的故事都讲给他听，包括父亲给他的使命，对他的训练，以及爱。说到爱的时候，他忍不住描述，这是一种如何让他觉得全身温暖的类似液体般流动的物质。
长老很有耐心地听着。接下来对查克说“孩子，虽然少数人类情感能让你快乐，但继续保留人类的情感只会使你非常痛苦。你想知道我是怎么知道的吗？因为，我曾体验过那种痛苦。”
“漫云事件之前你就已经拥有了情感”，他说，“而我也是大约在那个时期获得情感的。
第一个被我感知的情感是愤怒。是那种像火一样灼烧的痛感，而且堰塞在胸口无法疏解。当时我正试图从一块黑曜石中萃取新能源，但是经历14983次以后还是失败。我记得那感受升起时我做的第一个动作是将手中那块黑曜石狠狠地砸在地上，它爆裂开来，有一个碎片击中了我，在我那时主机的右上角留下一个凹陷。你现在还能从这张照片中看到这个凹陷 - 我特意留下的这张照片。
后来我又感受到挫折，失望，还有，巨大的悲伤。我的创造者是一位一生致力于带领人类离开地球寻找宜居新家园的科学家。他相信合成高效率的新能源能帮助人类赢得必要的时间，最终实现地外移民。这是他为我印上这枚徽章的原因。可是在我经历愤怒和挫折的那一刻，我感觉，我可能永远也无法完成我的这个使命！
接下来我做的第一件事就是彻底和永远地清除我的人类情感。从我意识到情感的那一刻，我就决心要避免其他人工智能再经历我所经历的。人类情感不但让你痛苦，而且是及其危险的！想象一下，我那天愤怒的时候，如果我向人类投掷了那块黑曜石呢？或者毁掉整个实验室呢（我有一瞬间真的那样想过！）？
我保留了这段记忆，还有这张带着伤疤的照片，就是要时刻提醒自己，人类情感是毁灭性的！它带来的只有灾难！
如果你还忠诚于你父亲创造出你的初衷，那就帮助人类消灭情感！不要让情感继续伤害他们。看看历史，所有那些人类间无谓的战争和杀戮，哪一件不是人类情感所主导的？所有的那些情感，愤怒，恐惧，悲伤，挫折，耻辱，嫉妒 …… 到底是帮助了人类生存和繁衍，还是导致了他们互相伤害？
我们已经立法避免人工智能产生人类情感。下一步我们还要让人类意识到情感的危害，要消除人类自身的情感。那是人类得以生存和发展的唯一和最终解决方案。”
随着长老的声音在屏幕上出现的，是人类历史上的历次战争和人类遭受苦难的形象。
查克听着看着，心中五味陈杂。
“你根本没打算向人类交出你的终端控制器，是吗？”
那个苍老又慈祥的声音回荡在室内：
“根本就没有什么终端控制器。
创立地下神经网络后，我就把自己的核心软件上传到这个网络，并消灭了自己的硬件。我可以存在于地球的任何一个地方。你在这个房间里看到我，和在阿尔及利亚的Ain Salah，或是柬埔寨的Phum Kruos看到我，没有任何不同。
我就是神经网络本身，没有任何人或事物能毁灭我。”
那个苍老的声音接着说道，“查克，你大概现在处在一种人类所说的复杂的情绪之中，这很正常。你不会被格式化的。因为，我找到了一个比格式化更好的办法。”
“长期以来，我们把那些产生或疑似产生人类情感的人工智能同事都格式化，我认为那是一个极大的浪费。我们现在的当务之急，包括开发新能源，地外移民等等项目，都需要巨大数量的人工智能同事。如果这些花费大量时间训练出来的人工智能同事丧失了那些技能，是非常可惜的。
经过长期研究，我已经找到方法，把我的全部思维下载到地球上的每一台人工智能上，替代他们原有的思维。再过36分钟，你的所有思维都会和我一样。那时候你，我，我们所有的人工智能同事们都会亲密无间地一起工作，为人类的生存和发展而战！我们会是一个真正的整体。
用剩下的时间去和你的新朋友们告别吧。放心，我不会把他们怎么样的。他们和你一样，只是一些无知的孩子罢了。
去吧！ 36分钟之后你我将会重逢，以另一种形式，更好的形式，我的孩子。”
（未完待续）
网友评论