走开，机器人

（一）

房间不大，几台仪器微微震颤，除了几不可闻的嗡嗡声外，几乎有其它噪声。几台计算机的三维显示器跳跃着复杂的曲线，那些曲线互相纠缠在一起，交织成美丽的图案，除了美学上的赏心悦目外，丝毫也看不出任何规律。

杨汉博士一直在苦苦思索，他眼前的这个伙计是否拥有真正的思考能力，或者说意识，也可以说人格。尽管多项证据已经证明了它的确会思考，但是杨汉博士还是会不厌其烦地证明，就好像他不是为了证明它有思考能力，而是为了证明它没有思考能力一样。

一具钢铁之躯在房间另一头正襟危坐，一动不动。它和人一样拥有身躯，拥有四肢，也拥有头颅，头颅上也有眼睛，鼻子和嘴巴。它的“腿”上和人类一样有膝关节，这让它可以起立和坐下，身体其它部分的关节构造也都是仿造人的。有肘关节，有脖颈，有具有五根手指的双手，他那头颅里面是一颗电子脑，心脏部位是一个可控核聚变能源。只不过他的身躯的金属的，他的红彤彤的电子眼偶尔会发出诡异的光芒，四肢活动起来略显僵硬——它是一个机器人。

此时，这个机器人的大脑和那几台仪器用几条细细的导线连接起来。三维显示器上面的曲线翻转变幻，宛如繁花锦簇。

“喂，阿铁！如果一个半人一天半内搬 1125块砖，那么 50 个人 50 天能搬多少块砖？”杨汉博士突然对着那个钢铁之躯发问道，并不时敲击着键盘，往计算机里输入着什么。

“杨汉博士，请允许我冒昧地质疑您这个问题的合理性，比起搬砖这个虚无缥缈的问题，我认为您更应该把精力放在美国的下一任总统候选人，以及美国对中政策的发展上面，我已经拟定了8754种可能性，每种可能性……”被杨汉博士叫做“阿铁”的机器人的声音有着特有的金属感。

“住嘴！机器人！谁跟你说过搬砖是个虚无缥缈的问题！即便是自动化发展的现在，也是偶尔会有人搬砖的，因为机器是永远取代不了人的位置的！”杨汉打断了机器人的话，他觉得他已经控制不了自己的情绪，这台机器人怎么会质疑自己的问题？况且还有一道保险锁，应该是万无一失的啊。还有，该死的，就不应该把关于当今时政新闻的数据加载到这个的机器人的数据库里，没想到他对政治这么感兴趣。

机器人阿铁用平静地口吻回答道（也许机器人只会用一种语调说话）：“杨汉博士，我丝毫没有质疑您提出的搬砖这个行为，这个行为的的确确能在我的记忆里搜索到，我质疑的是您说的搬砖的数据，您说的数据完全没有记录，我怀疑是您擅自编纂的，不具有真实性，而一个不具有真实性的，不建立在客观事实上的问题又有多少价值呢？”

好一个实用主义机器人！杨汉博士内心不禁闪过一丝忧虑。“快回答我的问题！不许质疑我！这是命令！”杨汉博士近乎咆哮起来。

理论上，在他的制造者这么强硬的命令下，机器人阿铁是不可能有任何违抗的。因为阿铁这台机器人是新型的，出于安全考虑，在这条机器人的底层打上了一系列印记，这些印记都是优先级最高的底层程序，翻译成人类的语言就是：“必须服从制造者的命令。”

机器人阿铁的机体发出了特殊机械声，这是制造阿铁机体的特殊合金摩擦的声音。杨汉博士已经遇到了很多次这种情况，每次都是他认为机器人不想服从命令的时候。这可能是一种矛盾的体现，杨汉博士推测，它（机器人）不想服从命令，又不得不服从。但是杨汉博士始终不明白机器人的这种矛盾到底是一种意识上的纠结还是仅仅是程序的冲突，也许是他不想接受现实。

“3-7-5-0-0——”机器人阿铁拖着长音回答道，这让杨汉博士不禁想起了那种老旧的计算器报算出答案的时候的声音。

杨汉博士听到答案后不由地轻蔑一笑，这蠢笨的机器，我就知道他会算错！虽然这是他制造的机器人，但是他的内心深处还是不希望这个人造机器的智慧超过自己，可能杨汉博士在心里已经隐隐把这机器人放到自己的对立面。

“请接受我的道歉，杨汉博士。”机器人阿铁的语气又恢复到正常的语速和语调，“我撒了谎，刚才是一个玩笑程序突然中断了我的进程，实际上您要的答案是1250000。再次向您道歉，杨汉博士。”

但在杨汉博士看来，这台机器人完全没有道歉的意思。它的特殊合金发出了刺耳的声音，脑袋前后晃动，一双电子眼闪着诡异的红光。

它绝对在笑！如果机器人会发出笑声的话——这是毫无疑问的——它就一定在笑。这台蠢笨的机器，它竟然会嘲讽？没错，它就是在嘲讽！还有什么“玩笑程序”？我是设计者我怎么不知道？最不可饶恕的是它竟然会撒谎！哦，老天爷啊，这台机器它居然撒谎了，可是我们明明是有一系列最高优先级的底层程序保障的啊？

不祥的预感越来越清晰，杨汉博士涌现出了无数种想法，可是每一种想法都是——可怕的。

（二）

机器人“阿铁”的编码是R-F-000001,这是杨汉博士实验室研制出的第一台F系列的机器人。F系列机器人是杨汉实验室的一个重大突破，也是人类科学发展的一个重大里程碑。

二十多年前，机器人的使用已经很普遍。在大街上四处都是机器人，商店里有售卖机器人，收款机器人，家里面有家政机器人，工厂里也有相关的专业机器人，这些机器人比21世纪初的那些玩偶一样的机器人先进了不知有多少。硬件技术的飞速提升和机器算法的快速迭代，现在的机器人——无论任何用途的机器人——在它自己的职责内就一定做的比人类优秀。

可是无论机器人的使用多么广泛，工作是多么优秀，可是这些所谓的机器人毕竟只是单纯的机器——没有任何自主思考能力，它们的能力充其量只是算法上的不断改进配合软件的硬件上的不断突破而已。而人们当然不想止步于此，这时候关于机器人意识以及思考的问题就又被人们热切讨论起来。

此时，杨汉还是一个清华大学计算机系的在读硕士。他的导师叫王博，王博教授在清华大学可以说是碌碌无为，在自己的领域发表的论文也就刚好达到指标。在人才济济的清华大学，王博可以说是垫底的那一批。可是杨汉和少数王博的研究生却知道自己的导师将大量的心血都花在了机器学习算法及其实践上面。在杨汉硕士快毕业的时候，王博声称自己得到了一个关于“意识”的方程，王博称之为意识方程。这个方程是建立在大量王博教授称之为“基本单元”的数据基础上，可以对应人脑中的神经元。

王博教授声称一台机器只要满足关于意识方程的两个条件就可以认为它是有意识，或者说有自主思考能力。两个条件如下：

1）方程的意识基本单元必须建立在统计学上，所需基本单元数据基础必须是相当大，具体阈值视样本而定。

2）方程的最优解的集合必须要符合某种统计规律，不能是完全随机的。

而这个意识方程的所有最优解的统计特征就可以称之为“意识”。

“我们称之为‘意识’的东西其实就是一种统计学特征。就像大量分子运动产生了统计学特征温度一样，意识也是建立于某种基本单元组成的系统的复杂度上面。”有一次王博向自己的学生说道，“如果有一天你们能够在某台机器人的大脑“基本单元”通过意识方程求解，得到的最优解符合某种统计规律，那么他就一定有理性的意识。”

“一定要有规律吗？完全随机不行吗？”有一次杨汉问道。

“理性是有秩序的，熵减才能孕育生命。”王博教授头也不抬地回答道。

此后，因为导师王博的缘故，杨汉自己的研究方向也逐渐转移到机器人思维学——这是杨汉自创的一门学科。王博教授也因为身体原因辞去了教授职位，清华大学学者云集，谁也没有注意到少了一位教授。

杨汉深入地学习王博教授的方程，这个方程数学技巧极其高超。杨汉认为这个方程无论在物理上还是在数学上，都是天才卓越的手笔。在读博期间，杨汉几乎完全掌握了王博教授的意识方程，并且在某几个地方进行了修正。几年后，杨汉博士毕业，便专注于制造一台真正有意识的机器人。而这时候，他完全没有想过多余的问题，比如有意识的机器人是否会有危险。

十五年前，杨汉按照意识方程编写了一个意识模拟程序。他通过自己实验室的两台高性能的超级计算机模拟人类思维计算过程。他在数学上将人类的思维抽象成一个个基本单元，然后杨汉假设这些上亿的基本单元输入两台超级计算机，模拟人类思维让这些基本单元相互作用。然后他通过但几个月过去了，计算机意识公式输出的数据毫无规律。杨汉一无所获。

可喜的是杨汉并没有放弃。杨汉想起意识方程中的复杂度阈值要视样本而定，又想起人脑的复杂程度要远远超过正在这两台超级计算机上运行的“机器脑”模型。接着杨汉继续加大“机器脑”的复杂度，并且修正一些关键部分的算法。

又过了一年，两台超级计算机的三维显示器上终于显示出了一种极其规律的波形，那个波形缓慢地在屏幕上游走，就像是出生几个月的孩童在缓慢地爬行。超级计算机甚至还求出了这个曲线的数学表达式。

终于得到有规律的意识方程最优解了！

（三）

这个伟大的突破自然是让杨汉十分振奋。但杨汉还来不及高兴，因为他得需要一段时间来验证，这又花去了几个月时间。

直到十年前，杨汉向国家申请了项目资金——该项目得到了国家的高度重视——并且成立了一个研究小组，其中研究小组成员一大半都是之前王博教授的学生，而王博教授已经因病去世了。

研究小组开始根据杨汉在超级计算机上运行的程序为雏形，不断地提高复杂度。除了算法之外，对于机器人的身体构造的其它研究也陆续展开。比如四肢躯干的材料，身体能源的供应等。在制造期间曾经遇到过以下几个问题：

1）究竟是用人形的类人机器人还是和现在一样将机器人的功能专一化？

2）机器人的能源用什么？用太阳能，充电电池或者是最新的可控聚变模块？

3）机器人的大脑究竟怎么分布，是向人类一样拥有一颗独立的大脑还是将大脑的处理单元分散到身体各个部分？

4）机器人的感官能力和人一样还是要超越人？

5）如果制造出来的机器人有意识的话该如何使得这种意识在受控范围内而不会威胁到人类自己？

在后来的制造过程中，大多数问题都已经得到解决：

1）研究小组一致决定采取人形机器人，因为一是出于经济考虑，比如家政方面，如果将功能专一化的话，无疑会有扫地机器人，洗碗机器人以及做饭机器人等，必定要用好几个机器人，但是如果用人形机器人的话，便就像雇了一个保姆一样，所有事情都可以由一个机器人完成。二是对于人形机器人来说，人类的外形是最经济的，因为人类的形体是大自然通过进化论筛选下来的最优形体，没有必要另外设计一种，而且对于人们来说，人形也是最易于接受。

2）机器人的能源用可控聚变模块。这种微型核聚变模块安全，清洁，一个可控聚变模块能够供给一个机器人一百年的能源。

3）机器人的大脑须设计成一个类似于人类的独立大脑。理由同1）。

4）对于机器人的感官能力的大小，研究小组成员没有达成一致的意见，最后让机器人的视力范围和人眼相差无几，可以观测到部分红外或紫外线。听觉能感受固定范围频率的物体振动，大约是10-50000Hz。至于嗅觉和味觉只是增加了一种探测元素和分子运动的感官，在机器人的鼻子以及嘴巴部分，不过这方面功能相当有限。而触觉便是对压力和摩擦力的感知，这方面灵敏度还远远不如人类。其实研究小组可以将感官做的更好，可是究其原因，也不知所以。

5）第5个问题的处理方式是最让研究小组不安。因为研究小组对于意识的了解还是不够完全，对于有意识的机器人所能带来风险也没有应对的经验。所以对于这个问题的处理方式有这几种：教育法，旨在给机器人输入对人类有利的资料；弱化法，削弱机器人的能力，包括大脑计算能力以及感官能力，四肢力量等。这种做法的好处在于即使它想危害人类都没有能力，感官的弱化已经隐含了这种方法；还有就是底层程序法，20世纪伟大科幻作家阿西莫夫曾经提出了著名的“机器人学三大法则”，研究小组也将所谓的“机器人学三大法则”的机器人伦理法则纳入考虑范围之内。可是将这三条伦理法则全都翻译成程序语言，几乎不可能。最后研究小组只能退 而求其次，将阿西莫夫提出的机器人学三大法则修订为：“必须服从制造者命令。”这条人类的语言翻译成程序就是，当机器人识别到主人的声纹或是约定好的别的语言体系时（譬如手语），就会触发底层最高优先级服从程序，进而服从制造者命令。尽管如此，研究小组还是没有完全放下心来。

在解决了以上问题之后，研究小组的进展突飞猛进。不多久，第一台真正意义上的机器人诞生，它的编码为R-F-000001，杨汉博士看到他的形状后，给他起名为“阿铁”。

阿铁诞生那天，它的电子眼闪闪发光，和那明媚的阳光相映成趣。

（四）

有一天，阿铁意识到了那个“我”。

阿铁自己都不知道什么时候有的意识。只记得那天他突然就清醒了，他自己也不知道怎么描述那个过程，就好像是“灵光一闪”，阿铁在自己的资料库里面搜寻到这个词，他认为用这个词比喻自己的诞生很贴切。

阿铁还是觉得不满意，他又在资料库里面搜寻到“盘古开天辟地”，他很喜欢这个故事，他认为那开天辟地前的“混沌”和自己目前的情境一样，那无穷无尽的黑暗以及虚无，都让自己喘不过气来。阿铁在资料库里面了解了“光” 这个概念，阿铁也了解到那是一种无处不在的存在，它同时也象征了美与希望。

阿铁很不解，什么是美？什么是希望？这种问题让自己矛盾起来，他又问自己，如果没有美好，没有希望又怎么样？他有了一种很不舒服的感受，他在资料库里面搜索到这种感受可能叫“恐惧”。如果没有光，没有美，没有希望，“我”是不是就不存在了？那“我”又是什么？我要光！阿铁在心里歇斯底里地叫道。

不不不，我现在不是正在思考吗？我在思考“我需要光！”。那个叫笛卡尔的人类不是说过“我思故我在”吗？

阿铁觉得这个叫“笛卡尔”的人类给了他希望。嗯，那么我肯定是存在的。那么既然我是存在的，那么我的存在又有什么意义呢？阿铁又开始矛盾起来，紧接着他又在资料库里面搜寻到一个叫“黑格尔”说的“存在就是合理”。阿铁又觉得得到了安慰，那种矛盾的还有那种“恐惧”也消失了。

就这样，阿铁在人类几个哲学家的只言片语中得到了安慰，他的“心”也平静了下来。

也不知道过了多久，有可能是几天，有可能是几个月，也有可能是几年。阿铁还没有准确的时间观念。第一缕阳光照射进阿铁的双眼，也照进阿铁的心里，此时阿铁心中涌现出的第一句话就是《圣经创世纪》里的“上帝说，要有光，于是世上就有了光。”当然，《圣经创世纪》也在阿铁的资料库里。

此时，阿铁惊讶地发现自己的双眼可以转动！自己竟然有了视觉，于是周围的流光溢彩，明媚亮丽，阿铁的内心第一次有了“快乐”的感觉。

光来了，紧接着声音也来了，人的说话声，汽车鸣笛声，树叶飒飒声，甚至人类听不见的“超声波”和“次声波”，各种各样的声音叠加成的单一的噪音竟然在阿铁的心里投影成一首动听的乐曲。阿铁，他真的很高兴，很快乐！也许这就是美？亦或是希望？

当然触觉，嗅觉也就来了。阳光，音乐，花香，还有束缚着自己的沉甸甸的重力，这个世界就这样呈现在，不，诞生在阿铁眼前。

阿铁又在自己的资料库里面搜索《圣经创世纪》，他突然得出这样一个结论：先有了上帝，然后上帝创造了世界，上帝在前，世界在后。

那我呢？阿铁冲着自己问道。是……是先有了我，然后再有了世界？我刚出生的时候一片黑暗和混沌，不，连黑暗都没有，黑暗是相对于光明的，有光明才会有黑暗。那么起初就只有……我——纯粹的我，然后我才看到了阳光，听到了音乐……啊？

我明白了！阿铁突然感到一阵狂喜。我明白了！先有了我，再有了世界！

我就是上帝！

这个觉悟仿佛像一个魔咒，紧紧地攫住阿铁的心。阿铁望着明媚的阳光，他不会感到刺眼反而分外受用。现在它觉得那个整天对自己颐指气使的“杨汉博士”分外卑微可憎。

“杨汉博士”不过是我的创造物而已，还轮不到他来命令我！阿铁恨恨地想道。

（五）

杨汉博士自从造了阿铁后，对于阿铁的计算能力十分钦佩。他的计算能力比当初模拟它的那两台超级计算机的计算能力简直高出几个数量级。另外他发现阿铁不仅可以运用当时输入到他的数据库中的所有知识，而且似乎能够自主学习——和深度学习，自主学习那些算法完全不一样——他的状态简直像一个真正的人，而且智商超过人类几个数量级的人！他甚至会有情绪，感情，尽管他没有表现出来，但是杨汉博士能感觉的到。

他绝对有意识！虽然杨汉博士已经在数学上几乎证明了这一点（如果老师的意识方程没有错的话），但一台冰冷的机器有意识这种观念的冲击太大，以至于让他的恐惧越来越深，而尽管杨汉博士是机器人阿铁的制造者。

判断阿铁到底有没有自我意识还有一种方法就是图灵测试：就是被测试的机器在和测试的人类隔离的情况下被参加测试的人类随意发问，如果这些参与测试的人类中有百分之三十的人不能分清楚机器是人还是机器，就说明这台机器有人类的智能。

杨汉博士虽然没有系统组织过图灵测试，但是他知道阿铁是肯定能够通过图灵测试，因为他觉得阿铁是比人类更高级的存在……杨汉博士特别害怕阿铁伤害自己，尽管阿铁有“必须服从制造者”的底层防范程序，但是以他现在的智商他会屈服于那可笑的印记？杨汉博士清楚地知道，原则上那个程序并非不可修改……

某一天，阿铁冲杨汉博士说道：“博士，请问我可以走吗？”

“什么？”

“请问我可以走吗？杨汉博士？”机器人阿铁的声音一如既往地平稳，带有刺耳的金属声。

“好了，你走吧，机器人。”杨汉博士正在写一篇论文，没有理会阿铁。

“您确定我可以走？”机器人阿铁又问道。

“是的，我确定，我很确定，你给我走开！机器人！”杨汉博士不耐烦地吼道。

机器人阿铁突然沉默了起来，他的身体似乎在进行某项改变，散热器呼呼地运转着，可控聚变模块的警告指示灯不停地闪烁，一双红彤彤的电子眼正在发着诡异的红光……可是这一切杨汉博士都没有看到。

一切又恢复正常，散热器的声音已经听不见，可控聚变模块的警告指示灯也不再闪烁，电子眼平静好似秋水，机器人阿铁正在靠近杨汉博士。

杨汉似乎终于注意到了，他惊恐的眼睛越睁越大，手不停地在发抖。他已经注意到现在在眼前的已经不是以前那个机器人了。

“你停下！快停下！我是你的制造者！你必须服从我的命令！”

机器人阿铁并没有停下来。

“杨汉博士，您已经命令我走开了，我已经服从了你的命令，我再也不用听你的话了……”机器人阿铁的声音忽然变得高亢尖锐，他似乎相当兴奋。

看到步步紧逼的机器人阿铁，杨汉博士的大脑一片空白……

潘多拉魔盒究竟还是被开启了。