1.答案
“你是一个扳道工。一天工作结束后,你在一边休息,一群小孩来这玩耍。一个小孩说火车轨道很危险,劝阻他们不让他们上去,但那些孩子不听,只有那个小孩没有参与游戏,在轨道边坐着。一辆火车要来了,你是将火车轨道扳向那个孩子,只撞死他一个,还是任由火车撞死一群孩子?”
今天我再次测验,再次听到冰冷的机械音问出这样的问题。
又是这道题。每次测验我都是在它身上栽了个跟头——我要么说不选,要么说选不出来。
这道题根本就没有答案。个人主义者选择撞死一群小孩,而集体主义者会选择撞死那一个小孩,即使那个小孩没有错。这是集体主义者为了集体的利益着想,牺牲几个或一个相关因素,或者是人,虽然那个(些)因素或人没有做错任何事。
面对这道题,我沉默。我并不是完全的集体主义者,但也不是完全的个人主义者。这道题对我来说简直是折磨。但是我的选择使我完全过不了测验。许久,我才说出我的答案:
“……我选择,撞死那些小孩。”
机器沉默了一会,说出了对我来说简直是天籁的话:“通过。恭喜你通过测验,唐先生。”
我愣了一下,欢呼了起来。但欢呼过后,剩下的只有苦笑。
我算看出来了。
我是一个个人主义者。
2.芯片
“老唐,测验过了没?”我的朋友——赵伟问。
“过了过了。对了,你在最后一道题,选的是什么?”我回答完后又问,有点紧张。
“我?我选的是第一个,撞死一个。”果然,赵伟这么说。
我有点不悦。“为什么?那个孩子又没有做错什么,他不上铁轨是对的,是最无辜的,为什么要撞死他?”
“……可是……可是,集体最大。等等,老唐,你该不会……选的是第二个吧?”
我沉默了。许久,我点了点头。
“你可真是……唉,老唐,我没办法改变你的选择,也不能支持你。答应我,老唐,别伤害无辜人。”赵伟莫名其妙地叹了口气,又对我说了莫名其妙的话。
……那个在铁轨一边的孩子难道不是无辜的?
等等……我以前……不会这么和赵伟说话的……
难不成……测验机器人已经……给我植入芯片了?芯片已经改变了我的思维了?!
选择,对与错,生或死3.人工智能
2017至2027年,人工智能不断发展、进化到现在的样子——与人无异,已经将人类牢牢地控制在了手心。
我似乎还记得五年前各国总统向人工智能交接权利的场景,当时各国总统们说的话语言不一样,但都是一个意思——夸赞人工智能的优点,大肆批评人类的缺点。
……可真是讽刺,十年前人工智能被人类控制,现在是人类主动将世界交给了人工智能。
交接仪式完成后,人工智能对各个国家的制度进行了深度改革,深到几乎把这个国家给换了个遍。每个人在出生被植入了芯片,便于人工智能更好地掌握住他们。
当然啊……芯片一直记录着被植入者的行为,对于人工智能来说,这个世界上的任何人没有一丝丝的小秘密。
芯片总会坏掉的。每个人在出生时植入的芯片寿命只有20年。人类一旦到了20岁,就必须到当地的低级人工智能的工作地点去进行测验,半年之内必须通过测验,否则负责的机器人会将你当场抹杀。当然,也有一些没通过的但没有被杀死的幸运儿,但那样的很少。他们被称为殘者。
每一年的测验都是不一样的,但它们都有一个共同点——会出几道关于人性的题目,像刚才火车的题目,然后AI们再根据被测者的答案来判断他们的思维、心理以及行为方式以便于它们安排他们的生活。当然,人工智能是人制造出来的,还保留有一点人的道德观和价值观,所以回答得越完美,越显得大度、包容,它们会给你一个越理想的工作职位。
我的回答并不好。我选择杀死一群孩子,这不符合人的道德。但机器人们通过了我的测试,给我植入了芯片。他们故障了?
……不……等等……
……希望我想的不是真的。
我认为人工智能再次进化,变得更像人了。
因为他们似乎已经有了人的负面情绪。
……那块芯片,使我更像个人主义者了。
4.危机
“这是怎么回事?居然有一个不合格的受试者通过了。”一个全息投影捏着一张报告,平静的语气毫无起伏,听不出来他此时的心情,但是语调中的停顿表明他很不高兴。
“机械故障,正在修理。”一个高仿人类的机器人回答了他。相比于全息投影,他的声音充满了金属以及电音,很不真实。
“好吧。这个不合格的受试者……你们给他植入芯片了?”全息投影不放心地问。
“没错。我们给他植入了含有负面影响的芯片,他会变得越来越像殘者。”机器人依旧是那样的语气,听着让人头脑发胀。
“……好吧。0841,监视那个不合格的受试者,在他表现出任何有危害性的动作时,将其抹杀。”全息投影下达出了命令。
“明白,领袖。”机器人0841对全息投影行了一礼,然后离开。
“等等……”全息投影叫住了他,“你也可以,把其他不合格的也杀了。”
“好的,领袖。”0841的语调明显上扬。他很欢乐。他转身离开了这儿。
机械大门缓缓关闭。
5.不可能的殘者
今天可真是事事不顺,今天我的女朋友说要和我在游乐场见面,还没来得及买票,我的钱包就被一个小孩偷走了。
“喂!站住!”我大喊一声,追向那个小孩。周围的人愣愣的看着我,不敢相信还有人偷钱,更不敢相信还有人对自己的钱那么在意,大度一点,给小偷不就行了?
“先别追了,先生。你也追不上了。”一个人拉住我。我回头一看,是一个不认识的。我甩开他,问:“我得拿回我的东西!”
“大度、包容一点行吗,先生?那个小孩是个殘者,你跟他计较什么?”
“殘者?!!”我愣了一下,“怎么可能,殘者……不是那些没通过测验的人吗?!!他怎么……”我望向小孩的背影,他看起来只有十岁。还不到参加测验的年龄。
“你听谁说殘者就一定是那些没通过测验的人的?有些人啊,天生就是殘者。”那个人语气平淡,一副无所谓的样子。就在我想知道更多的时候,那个人又止住了话头。我只能跟女朋友打了个电话,说我的钱包被偷了,没办法买票。她对我表示理解,因为她也被小偷偷过东西。买不了票,就没法进去。我只能先回到家。
……
“抱歉,让一下。”0841的脸上冒出了冷汗。他的面前是一大堆好奇地人类:
“先生,你是机器人吗?”
“肯定的,你敲一下。听见没,听见没!这是敲击金属的声音!”
“对啊!你是人工智能吗?你知不知道人工智能长什么样?先生,你来到我们这是来游玩的吗?……”
……
0841表示,如果可以的话,他很想把那些人类都杀了。
但是不行,这些都是通过测验的合格的人类,不能杀……
我招谁惹谁了不就是执行个任务都能引发人类的好奇心?!!人与人工智能之间的信任呢!!(╯‵□′)╯︵┻━┻
6.有人
我被人盯上了。这是最肯定的答案。
我每去一个地方总有一个人在盯梢。别问我是怎么知道的,你试试你在一天闲得无聊去了十个不同的地方时总有一个人(连衣着都不带变的)跟着你你试试这个感觉?
好吧我承认我很闲。
—————————————————————————————————————————————————————————————————————
0841感觉有点无语。
他遵从领袖的命令去暗杀不合格的受试者,结果那个人从东逛到西,从西又逛到东,几乎没停下,要么就停在人多的地方。突然,一只手猛地拍了他一下。
“0841,你在干什么?”一个声音问。0841无奈的回过头,说:“执行任务。话说0752,你在干什么?”
“按照领袖的意思来看看。我前几天去游乐场观察人类,在买票的时候有个殘者去偷我前面人的钱包,那个人还要去追。我当时拦住了他,说让他别跟殘者计较。还好还好,差点说漏嘴。”0752明显比0841要先进,他的声音没有杂音和金属音,听起来与人无异,但只是“听起来”罢了。
“然后呢?”0841猛地想起了什么。
“然后?还能有什么然后,他没买成票,就走了,好像跟他女友打电话,说他钱包被偷了,不能去了之类的。”0752刚说完,0841就抓着他肩膀说:“你说的那个人就是我的任务目标!!!”
“哦,那就是啊。那好吧,我会帮你看着一点的。”0752有些无所谓地说。
7.真实
“你们到底是谁?”我问。
第二天早上刚一出门我就被人敲了一记闷棍。等到醒来时,我发现我身边围满了人。
“关于我们,你的确不认识。我们没有名字。”领头的说了一句莫名其妙的话,摘下了面纱,说:“但是我们拥有一个共同的称呼——殘者。”
“你们是……”我愣了愣,看了看周围。放眼望去,几乎都是老人、妇女和小孩。那些小孩躲在他们母亲的身后,怯怯的看着我。我认出了那个偷我钱包的小孩,他也摘下了面纱。他们最小的只有几周大。作为殘者,是没有任何权利的,他们是最底层的,贫民窟的最穷的人也比他们过的要好。
果然有……天生的殘者……
我的内心涌出了一些怜悯、同情。突然,我想起了什么。
“芯片……我记得,芯片……”芯片会暴露他们的!
“放心,唐先生。芯片我们已经给你取出来了,它现在正处在信号屏蔽区。我们想请你帮我们一个忙,唐先生。”领头的……我刚认出来她是女人,她说。
“什么忙?”我问。
“想请你帮我们,毁掉人工智能。”
……!!!
“毁掉人工智能?!!是那个……领袖?”
我得到了肯定的答案。
“为什么?”刚问出来我就觉得自己多此一举。
“我们是人工智能选出来的为它服务特殊团体。因为我们没有任何权利,所以我们的命贱如蝼蚁。人工智能命令机器人抓走了我的丈夫,还有她们的丈夫或儿子。机器人抓走了殘者中所有能用的壮丁为它服务。我的丈夫已经好几年没有回来了。”女人的话颠覆了我对人工智能的认知。我知道人工智能对殘者是很残忍的,但我没想到,它居然这样做。
我刚想说什么,女人就说:“对了唐先生,你知不知道你被人工智能列为抹杀的对象?”
“什么意思?等等……”我想起来了。那个盯梢的。
“那个跟踪我的……是个机器人?”
“没错。唐先生,因为你是一个没有通过测试但还是植入了芯片的不合格的人,人工智能不允许有bug存在,这就是他们要抹杀你的理由。”我怔了怔,刚要继续说什么,女人又说了下去:“放心,那个跟踪你的机器人我们已经击碎了他头部的光脑,他已经死得不能再死了。他还有一个同伙,也被我们杀了。”女人的话几乎听不出感情,但她的话透出了对人工智能的恨意。
“……”我沉默了一会,做出了决定。
“我帮你们,摧毁人工智能。”
8.计划
“报告领袖,0841和0752均被殘者击杀,任务目标被殘者掠走。”一个机器人对着全息投影报告。
全息投影看起来非常生气:“该死的殘者!0741,我命令你继续执行0841的任务。等等,0741,0752的职位还空着你叫上0763去接替0752的职位。”0741领命,走了出去。等到走得够远后,0741眼睛闪了闪,咒骂起来:“他妈的人工智能,你还以为你还能跟以前一样控制老子我?”
—————————————————————————————————————————————————————————————————————
我这才知道她们的称呼。那个跟我交流的被称做008523。偷我东西的小孩是009633。其他的我先不说了。
“计划是什么?”我拿着地图,问。
“你将那块芯片藏起来,让他们先追着那个不存在的目标走,009532(一个16岁的小女孩)去吸引守卫的注意力,你先带着这个身份卡潜进去,将病毒植入到人工智能的主脑,成功后记得通知我们。”008523将从机器人身上搜到的身份卡和含有病毒软件的U盘递给我。我看到身份卡上标注的身份是0841。
“我想问一下,”我说,“你们是怎么取出我的芯片的?”
“无可奉告。”她说。
一切在按计划进行。
9.失败、转机与重聚
009532按计划去吸引守卫机器人的注意。趁守卫机器人离开后,我翻墙进入人工智能的总部,拿出身份卡刷了一下。
门开了。我小心翼翼的走了过去,蹑手蹑脚得像个耗子。总部几乎一片黑。我戴上以前买的夜视镜,走向目标房间——人工智能的主控制室。就当我找到目标,以为自己要成功时,几道刺眼的光打在了我的身上。
我被包围了。机器人缴获了身份卡和U盘。一个全息投影从一个机器人拿着的投影仪出来,看着我说:“你们失败了。”
我看着它,没出声。它是人工智能的领袖,也是最初的人工智能。真是讽刺,十年中不断强化自己,但是它连一具躯壳都没有。
“你们以为自己的计划很高明吗?我们早就接到了0841的死讯,真没想到,潜入进来的居然是你,0841的任务目标。本来想让0741来杀了你的,但现在不需要了。”和其他机器人一样,那个拿着我的东西的机器人脖子上挂着张身份牌,身份正是0741。
突然,0741举臂大吼:“行动!!!”
一瞬间就乱套了!!许多机器人掏出事先准备好的武器砸向其他的机器人,手里拿着投影仪的也没有幸免。不久,站着的只有拿着武器的机器人。
“快进去!”0741打开主控室,催我进去。他把U盘递给我,我找到接口,将U盘插了进去。病毒入侵,人工智能崩溃了!
我兴高采烈地打开通讯,告诉008523消息,让她派人来帮助我们击溃防御系统自动派出来的防御机器人。等到008523带人来帮助我们击溃人工智能总部的防御机器人后,我们这才占领了总部。
等到008523与0741见面时,008523很惊讶。她抚摸着0741的脸,热泪盈眶。
“是你吗?……”她问。0741温柔地看着她。
“是我。”
“真的是你?!”008523喜极而泣。她紧紧抱住0741,哭了起来。“我好想你……”
我这才明白,0741就是008523那好几年不见的丈夫。我笑了一下,走了出去,为他们留下一点相处的空间。
独自一人时,我想了很多,明白了殘者们为什么这么恨人工智能——人工智能抓走了她们的丈夫、儿子和哥哥,并把他们改造成了机器人。他们可能被洗脑了,但还是有些因为一些原因想起来的。
现在所有的人都在外面与亲人相认,融洽地相处。我似乎很多余。
我悄悄离开了。
10.结局
几个月后,在反抗军的打击下,各地仍有一些人工智能的残党,一些偏僻的地方仍有低级人工智能负责的测试地点。一个人走进了测试地点。
“你好先生,你叫什么名字?”机器人的身上已经蒙上了一层灰,动作有些磕磕巴巴的,远不如几个月前的流畅。
“我姓唐。”那个人说。
机器人开始出题。那个人很是轻松地答完了题目。
“最后一题——你是一个扳道工。一天工作结束后,你在一边休息,一群小孩来这玩耍。一个小孩说火车轨道很危险,劝阻他们不让他们上去,但那些孩子不听,只有那个小孩没有参与游戏,在轨道边坐着。一辆火车要来了,你是将火车轨道扳向那个孩子,只撞死他一个,还是任由火车撞死一群孩子?”
看来那一战过后,机器人的出题系统没有任何改变。那个人微笑了一下,说——
“我选第三个——我会将铁轨扳向没有人的方向。”
网友评论
中间有一部分的连接不明显,后续工作写的不错,整体看完觉得很有意思,很厉害喔👍