Introduction
周日下午忙里偷闲的看了《鹰眼》，本来是抱着轻松娱乐的心情去看的，结果这部电影本身抛出了一个严肃的学术问题：
如何解决拥有无限资源和权限的超级计算机的系统误判问题。
先分析一下以上问题是否是个现实问题：
- 电影描述的问题，究竟是否会在现实中发生？大概需要多久会发生？
- 人和计算机，究竟应该给谁更高的权限？
- 计算机出错了，应该如何纠错？
Questions
开一下脑洞，简单的分析下问题。
电影描述的问题，究竟是否会在现实中发生？大概需要多久会发生？
作为一个一线研究Machine Learning的苦逼PhD，我非常负责任的说电影里的超级计算机一定会出现在现实世界。当然，Aria系统本身包括了很多子系统，比如图像识别，语音识别，频谱分析，人群分类和性格分析，动态规划和网络安全，每个子系统都可以牵扯出一堆细分的研究领域，每个领域的成熟度又不同，要达到电影呈现的“超级智能”状态尚需时日。但是扪心自问，那样一个高度智能化的集成系统，是所有AI领域研究人员的毕生梦想。集合了大众的智慧，就算10年完不成，30年完不成，50-100年一定可以实现了。
届时一些现今限制技术应用的环境条件也会成熟，比如更高的数据传输速度会随着5G的铺开而实现；物联网让各种非数字信号数字化等等。
所以这样的超级计算机一定会出现，时间大概会在50-100年以后。
人和计算机，究竟应该给谁更高的权限？
这样的系统出现了，那一个很现实的问题就是，我们应该给它多少资源和权限。
资源不必说，创造这样机器的目的之一就是尽快的处理人类无法处理的海量数据。所以随着系统问世，必然所有的数据都汇集于此，供其分析和决策。
权限是本片提出的最大问题了。电影里政府并没有给Aria所有权限，计算机只是顾问，然后由于政府做了错误的决策，系统暴走了要消灭本届政府。那系统为什么会暴走呢？试想我是系统的设计者，我设计这样的系统一定会有一个待决策的“任务清单”，然后计算机本身调取各种资源和数据对清单里的每个任务执行一个分类问题，分类结果就是待执行事项。现在系统计算出本届政府的领导人都是SB，未来继续做错误决策的可能性是99%，导致大规模伤亡的可能性是99%，于是合理的决策变成了：消灭本届政府相关领导人。
有个待执行决策，那么谁来confirm？人还是计算机？假设最终决策权给人，且不论决策权落入别有用心的人手里，就算是让一个无比正直，无比政治正确的人来确认，也会受限于人的很多弱点，比如信息不充分，软弱性等等，万一总统真是个SB，会带领人民走上不归路，那怎么办？假设最终决策权给一群人，用民主投票的方法来决定，且不论人群本身就是不理性的容易操纵的（FB最近在这方面吃了好多亏），投票本身就需要一个漫长的时间，而决策本身刻不容缓，肿么办？
计算机出错了，应该如何纠错？
那更合理的方案应该是让计算机来做最终确认。那如果发生了电影里说的，Aria发生了误判，要如何纠错呢？刚刚已经说了我们大概总有不能让人来纠错的时候（事件非常紧急），那更合理的方案大概就是设计很多不同“性格”的超级计算机，然后让计算机投票（ensemble method）来决定了。计算机“性格”不同是指内部的优化方程不同，比如偏好“民主派”的系统就应该给福利项目加上更多的权重，而偏好“共和派”的系统就应该给政府支出加上更多的惩罚系数。那避免出现电影里的现象，我们就需要若干“保守”的计算机，给破坏现实交通，杀害或控制普通公民，谋杀总统等features加上很大的惩罚系数。
这里开一下脑洞，未来每个国家都会有若干自己的超级计算机，其目标函数是自己本国人民的利益，那么选举就会是选民选择“最能代表自己利益”的计算机系统（终于不用担心那些政客说一套做一套了╮(╯▽╰)╭），对应的也不会有G7orG20了，这些系统随时都能开个会聊一下国际形势和全球贸易。然后这些代表自己国家的超级计算机系统组成的“联合国”，究竟要不要引入“常任理事系统”或者“一票否决权”等机制，给我们如何设计ensemble系统又提出了巨大的挑战。
Anyway，所有人类系统设计中出现的问题和挑战，同样也会出现在集成的计算机系统里。这些问题，就有待后续研究了。
网友评论