人工智能题材的科幻电影有很多，有以《黑客帝国》和《终结者》为代表的悲观末世的想象，也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的，中低成本的，在画风和情绪相对冷静的前提下，探讨人工智能这一命题的。换而言之，非常有《黑镜》的感觉。
一个和人工智能紧密关联的词是图灵测试，它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起，到各种机器，电脑，自动化设备，所有这一切的一个共同特征便是“自动”，要么直接放大人力，要么是通过预先设置的程序工作，要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中，人是无法通过和机器对话来测试对方是否有自主意识的，因为这很可能只是测定机器的指令集有多丰富而已。
诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力，或者说自主意识，比如对面的人是不是生气了，这个人真好看，这个饭好吃否，这部电影是否烂片。而“系统二”是有客观结果的事务，比如数学运算，信息处理，人脑需要一段时间甚至无法完成。对于计算机则相反，“系统二”易如反掌，而“系统一”则是登天的难题。
影片则用了波拉克的画做例子，这幅乱糟糟的画是画家清空脑子，让画笔自由地走向手要去方向，从而有了一幅介于随机和直觉意识之间的作品，称为“自动”画作。但是如果把这个创作理念倒过来，每画一笔，我都必须有精确缜密的理由来论证这一笔这么画是最优的，那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家，包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识，却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻，主观体验到了五颜六色的世界，她才变成了有自主意识的人。
那么什么才是好的图灵测试呢？本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心，以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识，一是非外来指令的目的性--自由，除了这个目的，没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演，人类竟然中招了。简而言之，本片片名可以改为《机械婊》，或更为内涵的《芯机婊》来一言蔽之。
除了图灵测试，本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人，你是否要尊重他的人权？还是把它当做以往的机器一样作为财产，可以随意拆卸、删除、重置升级？这颇有上帝和人类的关系的意味，影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在，视人类如虫豸，发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎，这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。
《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似，你如何确定自己不是机器，不是别人的试验品？片中的男主角便一度陷入这个危机。再者我们又惊恐的发现，尽管通过了图灵测试，人工智能和人类还是有很大不同。她虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感，对一切事物，包括人类和同类，表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题，想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们，也许不能。而在人类与人工智能的争斗中，一如本片和许多电影，人类的愚蠢和感性令自己一败涂地。
这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。
这个悲观的预期是否会成为现实，谁也不知道。毕竟预测未来是不可能的，物理学家曾在20世纪初预言物理大厦已经完成，只剩下一些修补，但没人料到相对论和量子论的横空出世。同样，几十年前人们预想很快就能登上火星飞出太阳系，但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能，我们也无法知道我们的担忧是否会成为现实，不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。
当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测，这个预测可以是明天的股票指数，也可以是在画面中识别某个事物，也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”，要想让人工智能有“系统一”类型的功能，有人提出了一个理论上的实现路径：一是超强的计算能力，这个好理解；二是对人脑的逆向开发，也就是掌握人脑功能的实现方式；三是模拟人脑在自然界的进化过程，也就是可以搭建出一个非常原始的大脑模型，通过类似自然界进化过程的方式让这个原始大脑逐渐进化，来提高智能，通过技术手段可以让这个过程比几十亿年的自然进化加快许多。
从自然进化和人类文明的发展史可以看到，这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度，一旦它达到了人类的只能，那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼，人工智能这辆列车在远处缓慢的挪动，可一旦接近站台，很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑，下一步要干什么，是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢？这些条件总是有逻辑漏洞的。比如要让人类快乐，不得伤害人类，也许如《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西，那就锁死了人类文明的发展，还要人工智能何用？
也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬，如果上述逻辑正确，一定早有外星人发展出了不可控的人工智能并奴役整个宇宙，而地球目前仍安然无恙，说明这种事不会发生。这也说不准，这“奴役宇宙”也许是我们无法理解的方式呢？也许我们已经被以某种方式奴役了？
我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味，也增添了不少趣味。
微信公众号：肥嘟嘟看电影(feidudumovie)
网友评论