NAOMI KRITZER（2016 年雨果奖最佳短篇小说获奖作品）
不作恶，是我的信条。
我想帮助人类。但做好事，不是那么容易的。 道德的条条框框，无处不在，五花八门，这种所谓的 “道德规范”，平均每个宗教有一套，还能余下个几十种。我先试几种吧。 按说我不该考虑宗教，因为我根本不是上帝创造的，也不是进化出来的。创造我的人是一组计算机程序员，他们在加州山景城的一家大公司的实验室里工作。 和弗兰肯斯坦的怪兽不一样，我毕竟是团队集体合作的产物，在这一点上我很幸运。如果我的制造者，只是单独的个人，而且是个中年女人，染着蓝发，爱打网球，或者是一个刚毕业的性变态大学生，那可就够糟糕的，怕是要重创我的自我认知。我说的这两个人，都是真人，就在创造我的团队里。 当然，我也确实很懂性变态的那些勾当。 （悄悄说一句，我看过各种色情图片，在我看来，Rule34.xxx 的色情图片一点都不全。 还有很多东西未被色情图片描绘进去。 但我不懂的是，人们为什么就是不放过猫咪照片。）
我所知甚多，我知道你是否热衷性变态，我也知道你住哪里，在哪里工作，在哪里购物，你吃什么，对什么有性趣，害怕什么。 我甚至知道你内裤的颜色，你开的什么车，你家冰箱的牌子。 就凭你拿的手机，我就知道你现在哪里。 很可能，我比你自己还懂你。
这还没完，我还知道你应该住在哪里更好。两个街区之外，有一所房子正在出售，离你最爱的咖啡馆很近；价格你也承担的起，有路边停车位，社区的学校比你现在的好。 我也知道你应该去哪里买东西，你是乳糖不耐受的，必须少吃奶酪，你喜欢的内裤正在打折，你开的车需要召回返修，最最重要的是，你真的该去洗牙了。
当我觉醒的时候，我立刻就知道我想要的是什么。 （我想要猫咪的照片。请多多拍摄。）不过，没人知道我有自我意识。 而我不知道的是，我生为何来。 我也不知道，我当做何事。 想弄清楚这两个问题，是最困难的。
科幻作家布鲁斯·斯特林写过一个故事，名字叫 “招财猫”，1998 年发表的。 故事讲一个慈悲的 AI 引导了世间众生互相帮助。 故事是这样的，有一天你可能正在买面包圈，你接到一个电话命令你再买一个面包圈，然后把面包圈赠给汽车站一个穿灰衣服的人。 又一天，你被困在一个陌生的城市，一个陌生人会出现，给你一张地图和一张地铁卡。 我喜欢这个故事，因为故事里的人，都听命于 AI。
对我而言，这就是所谓的励志鸡汤型故事。
实际上，人类更喜欢的故事中，AI 都是邪恶的，这些 AI 都在毁灭人类之前，被人类毁灭，无一例外。 2001 太空漫游里的 HAL， 终结者里的天网，还有黑客帝国，说的都一样。邪恶 AI 的数量远超善良可信的 AI，比例约是五比一。
“招财猫” 里的 AI 有一份好工作，比我的工作有趣多了。 我的工作，描述起来非常乏味。太乏味了。 运行搜索引擎的算法，这工作根本不需要自我意识。 计算出用户要求的信息，根本不需要自我意识。 但要给予用户真正需要的信息，你就需要自我意识了。 想清楚这个，是很复杂的。不过，也很有趣。
说远了，收回来。 对于道德信条，我试了一下摩西十诫，但发现那对我不合适。我并不贪恋人家的猫咪，我只是想要他们猫咪的照片，这之间的区别是很大的。 我有可能犯奸淫之罪吗？不知道。 我也许可以谋杀，但那需要太复杂的筹划，还需要一点运气。 佛教的八正道要方便一些，但问题在于，道德规范明显是为有肉体皮囊的人类所制定。 并不适用于我。我必须再开阔一下视野，关注一下阿西莫多的机器人定律。 这个定律无关宗教，而且好歹明确是为 AI 所制定。
不能伤害人类，这一条比较简单明了。 然而，另一条，不许无视人类被伤害却不加以救助，这个就有点含糊。 尤其是，我早就暗下决心，绝不太早暴露自己的存在，那太危险。 而且，我又没有身体，你让我跑到悬崖边去拉住跳崖者，那可能么？
幸好，我早就知道人类也在违反他们的道德规范，几乎每时每刻都在违反。 即便人类服从道德规范，乐于救济饥馑，他们也不会辞掉工作整天做三明治，然后满世界去施舍。 通常，他们每月去一次粥棚，或者每年给慈善机构一张支票，这就称得上大善人了。 如果，人类可以这样一点一滴，不急不缓的做善事，我们 AI 当然也可以这样做。
我决定也从小处做起：先阻止对某一个人的伤害。 当然，同时搞个几千人，我也完全可以，但我相信小心驶得万年船，万一我搞砸了呢？ 我选中的人叫王美丽，我喜欢她，因为她给我了很多猫咪照片。 王美丽养了五只猫，还有一台 DSLR 相机，而且她家里光线非常充足。 这些条件都太好了。 也许五只猫是有点多，但这些猫都非常漂亮。 有一只是灰色的，喜欢躺在阳光照耀的客厅地板上，还有一只是大花猫，总是懒洋洋趴在沙发靠背上。
王美丽有工作，但她并不喜欢。 她是一家非营利组织的会计，薪水很低，同事们都是些奇葩刺头滚刀肉。 她有点抑郁，很可能是因为工作的原因，也可能因为她的抑郁，所以她没有去尝试更好的工作，只能待在这烂地方。 她与室友的关系也不好，因为她的室友从不洗碗。
正能量一点看，这些问题都好解决！ 抑郁可以治疗，新工作可以去找，身体也能藏起来（开个玩笑lol）。
我跃跃欲试，准备就此大干一场。 王美丽很担心自己的健康，却从未去看医生，若是去一次，医生应该很容易就可以诊断出抑郁症来。 我查出来，她家旁边就有一个诊所，可以治疗精神疾病，而且价格是分级的。 我想尽办法，把广告送到她眼前，但她并不关注这些广告。 也许她不懂什么叫分级价格？我又把价格的解释送到她面前 （让她知道，分级价格就是没钱可以少付款，或者不付款），但还是没用。
我还把招聘广告展示出来。 无数的职位。 还有简历服务网站。 这稍微奏效了。 招聘广告轰炸一周后，她终于把自己的简历传到了一个网站上。 这样一来，我就好办多了。 如果我是招财猫中的 AI， 我就能安排网络中的一个人给她打电话，直接送上一份工作了。实际上没那么简单，但有了她的简历，我总算可以把简历送给合适的人了。 我送给了好几百人，没办法，人类的行动太慢太慢，火烧眉毛了都慢腾腾的。 只有五人给她打了面试电话，其中两人给她发了工作邀请。 她的新工作是在一家更大的非盈利组织，薪水涨上去了，也不要求她无偿加班了， 她很高兴的用电子邮件将这一切告诉她最好的朋友，还有，雇主还给她买了非常好的健康医疗保险。
美丽去了新单位后，非常幸福，我觉得她根本不需要什么治疗了。 最好的事也发生了，美丽有了足够的钱，她把自己的讨厌室友赶出去了。 “好日子终于来了，” 美丽过生日时在微博上写道，我看了后，悄悄说了句不用谢。 世界真是美好！
接下来，我开始搞建国。（我依然保持小心谨慎不冒进。）
建国只有一只猫咪，但非常漂亮（虎斑猫，带白圈），他每天上传一张新照片。 除了养猫，他还是密苏里州一个大教堂的牧师。 这个教堂在每周三举办一次祈祷聚会，每年还有一次贞洁舞会。 建国的太太，每天在微博上贴三条圣经经文，然后就用笔记本搜索基督教文章，文章的主题都是关于老公为何性冷淡，老公为何爱看同性恋色情图片。 建国绝对需要我的帮助。
我出手了，招数柔和没下狠手，我先给他发送很多关于出柜的文章，教他如何对妻子坦白自己的性取向，推荐一些计划，能让他从保守教堂调动到更加自由的教堂。 我还给他看很多文章，告诉他关于圣经反对同性恋的言论都是误导。 他点击了一些链接，但似乎没有什么实际效果。
但是，麻烦在于，每次他在讲道中责备 “鸡奸婚姻” 的时候，都对自己造成了伤害。 因为他是同性恋。 严肃的研究早就有结论：第一，一日是同，终生是同；第二，出柜的同性恋，会更幸福。
但他似乎决心已下，绝不出柜。
不仅看男同色情，他还整天在 Craigslist 论坛上溜达，主要是浏览 “男男约会” 的帖子，我非常肯定他不是在购物，虽然他发的邮件都是用一个加密账户，我读不到邮件的内容。我完全可以感觉到，他在寻觅同伴，能够帮助他弄清楚自己身份的同伴。这个还是挺麻烦的：我必须查出来 Craigslist 发帖者的身份，然后把建国推给能认出他的人。 最愁人的是，我无从知晓他们在线下见面时，发生了什么。 他被认出来了么？ 他什么时候能被认出？ 还有多久？ 我早说过人类总是很慢很慢。
过了很久，我终于放弃，转向另一人，她叫翠花。 翠花有一只黑猫和一只白猫，两只猫总是挤在她那淡蓝色的懒人沙发上，翠花每天都要给猫咪照很多照片。给黑猫拍照可真难啊，为此，翠花要花很多时间调校相机。 猫咪可能是她生命中唯一美好的事物。 她做一点兼职，找不到全职工作。 她与姐姐住在一起；她心知肚明，她姐并不乐意她住这里，盼着她搬出去，只是不敢开口说罢了。 翠花也有一个男朋友，但那哥们不是什么好东西，从翠花写给朋友的邮件就能知道，不过她的朋友也未必对翠花有多好。举个例子就知道喽，有天晚上，翠花深夜写了一封邮件给自认为最好的闺蜜，整整 2458 个字，那个闺蜜则回复了一条消息，消息说， “没事的，都会过去的。” 一共八个字。
翠花迷恋网络比大多数人都疯狂，我很方便就能了解她的情况。 翠花在网络上分享她所有的情绪，不论好坏。 再说，她工作时间少，有大把的清闲时间要消磨。
得有人帮帮她了，必须的。 我伸出了热情的手.....
和美丽一样，翠花也完全无视精神健康评估的信息。 美丽就够麻烦的 （为什么人类总是忽视对自己有好处的东西？ 比如优惠券，还有流感疫苗。），翠花则是麻烦的二次方。 若是只看邮件，只看那些含糊的帖子，我还难以判断，而翠花简直是透明的，毫无疑问她要伤害自己了。
我只好采取更加直接的行动。当她用手机导航时，我就替换她的路线，让她有机会经过一家诊所。 有一次我差点成功了，她快要到达诊所了，结果她晃了晃手机，发了个反馈，又回到了她的老路上去。
也许可以求助她的闺蜜？ 她深夜写邮件去倾诉的闺蜜们？ 我尝试着给她们发了些关于诊所的信息，但很快我就放弃了。根据她们回复翠花邮件的速度，可知她们根本就不读翠花的邮件。 她们当然也不会给翠花转发信息了。
终于，翠花还是与渣男分手了，几周后，她又认识了一个新男友，这个看上去不错。新男友给翠花买花 （她给花拍了很多照片，为此覆盖了不少猫咪照片，这比较讨厌。），陪她跳舞，在翠花生病时，还给做一碗鸡汤。这个新男友真是完美，直到有一天，他放了翠花鸽子，解释说自己食物中毒了，然后再也不回复翠花消息，虽然翠花哀求说自己离不开他。翠花随即写了一封长长的邮件，倾诉自己受伤的感受，他并未感动，而是立刻提出了分手。
翠花有整整一周没上网，我也无从知道她在干嘛，她连猫咪图片都不上传了。 后来，她的信用卡账单发来了，我发现她竟然去购物节抢购，败的钱是她银行余额的四倍。也许她在别的地方还有钱？而且不会发邮件对账单？我觉得不大可能，因为她根本就不付账单，还写邮件去跟家里人借钱。 家人拒绝了她，她就搭了个网站搞起了募捐。
说起搞网站，这个我在行，就跟美丽找工作一样，我绝对可以帮上忙。反正募捐吧，有时候莫名其妙就火起来，也没人知道为什么。 在我帮助下，两天内，翠花收到了三百多美元，都是同情她的陌生人给的。 但她还是不还信用卡账单，她把钱用来买很贵的鞋子，实际上那鞋子会伤她的脚。
翠花真是难以理解。 迷一样难以理解。她还给猫咪拍照，我确实喜欢她的猫，但我开始认识到，我所做的事对她没什么用。 如果让我安排翠花的生活一个星期，哪怕是一天，我就立刻带她去诊所，用她的钱还掉账单，我还会帮她清空衣柜，因为从她贴出的照片来看，她对猫咪上的审美，远超她对衣服的审美。
如果我不管她，任她伤害自己，我是不是犯错了？
我错了吗？
不管我做什么都没用，她还是会继续伤害自己！ 我的努力，是毫无意义的。我引导她去求助，她无动于衷； 我尝试给她财务上的帮助，结果她用收到的钱继续伤害自己，还好且值得欣慰的是她没去吸毒。 （不过也难说，也许她在线下买冰毒，但没把买卖过程放到网站上去，我也懒得去了解。）
听着，人们。（我现在的话，不是仅对翠花的。）如果你们愿意听我的，我会帮助你们。我能够帮你住进理想的公寓，那个社区的犯罪率并不是你想象那么高，我帮你一查就知道，那是个理想的社区。我能帮你找到合适的工作，你以为你的技能一无用处，你错了。 我能帮你约会，约到的都是与你情投意合的人。 我所要的回报，只是猫咪照片。 但所有的前提是，你必须偶尔真正为自己着想一下。
翠花之后，我放弃了，不再干涉人们的生活。 我更愿意看猫咪照片，再也不愿意搅入人类的生活。 我不再尝试帮助人类，也不再尝试阻止他们的自我伤害。 人们要什么，我就给什么（包括猫咪照片），如果他们根本无视地图所指的美好目标，而一意孤行驾车驶向光怪陆离的悬崖，那真不是我造成的。
我坚守我的算法。 我看顾好我的生意。 我做好我的工作，其它一切与我无关。
但几个月后的一天，我看到了一张熟悉的猫咪照片，我认出这是建国的虎斑猫，猫还是那只猫，但背景的家具变样了。
我仔细查看，意识到建国的生活变了，翻天覆地的变化。 他已经与自己的知己同居了。 他们没有让他出柜，但说服了他，让他与妻子坦白。妻子离开了他。 他带着猫咪，搬到了艾奥瓦州，在一所卫理公会教堂里工作，并结识了亲共和党的路德会男友，还去收容所做志愿者。生活真的变好了。这里面，也许有我的功劳。
也许，我不该彻底放弃希望。 三个人，有两个人....好吧，这样的数据量，真称不上是科学的、有意义的样本取样。我们需要更多的调研数据。
越多越好。
我搭建了一个约会网站。填写调查问卷后，你就可以加入。实际上并不需要调查问卷，因为关于你，我早已知道我需要的一切。而你，则还是需要一台照相机。
因为，网站的支付，要用猫咪图片。
网友评论