这本书每个人都应该读。
超级智能机器在我们有生之年会否降临？
它能否被掌控？
它是否应当被掌控？
被谁？
当超级智能机器提供了我们所需的一切，我们的一切贡献将变得无意义，这时我们该如何去寻找人生的目的？
人类能否在超级智能机器的年代生存下去？
读完全书，一个答案也没有找到。
但是，这本书的目的，是邀请所有读者参与这场“我们时代最重要的对话”。
这是MIT天体物理学教授麦克斯·泰格马克（Max Tegmark）今年8月底出版的新书《生命3.0：AI时代的人类》（“Life 3.0: Being Human in the Age of Artificial Intelligence”）。它与绝大多数围绕AI话题的讨论最大的不同点在于，它出自一个物理学家的视角，用更加根本的原理来解释AI，从而避免了大量的技术性计算机术语，其目的，就是上面所说，希望所有的人都参与到这场对话中来。
没有找到答案，不等于没有启发，这二者间的区别是显著的。泰格马克贯穿全书非常重要的一点，是他没有直言指出的肯定和乐观，对通用人工智能会出现的肯定，以及对人类未来的乐观。
按照传统观点，智能是一个神秘的东西，只能存在于生物组织中。而作为一名物理学家，在泰格马克看来，智能就是由基本粒子的运动所产生的某种信息处理，没有任何一个物理定律指出，我们不能制造出各方面智能都高于人类的机器。
一旦我们成功，造出了这样的机器。这有可能是自有人类以来最美好的一件事，也有可能，是自人类产生以来最坏的一件事。是因之繁荣，还是受困于斯，取决于我们。
关于泰格马克有个流传甚广的段子。2014年2月，在伦敦南肯辛顿通往科学博物馆的地铁站通道里，人们看见一个成年男子在那里痛哭，那正是宇宙物理学家麦克斯·泰格马克。他没有破产，也没有被爱人抛弃，他仅仅是参观了当时科学博物馆里的一个展览。展览呈现了人类知识的进化史，从查尔斯·巴贝奇的引擎到阿波罗11号。而引他落泪的，不是这些里程碑式的伟大技术，而是这个发展进程所带来的震撼和顿悟。
泰格马克出生在瑞典，长相与英国流行歌手奇里夫·李察爵士颇有几分相似，却有着当代亚里士多德的情怀。在他绝顶聪明的大脑里，每一个事实，每一条理论，都像是在太阳系里运行，有特定的空间和轨道，康德、冷战史、陀思妥耶夫斯基、乔治奥威尔、亚原子粒子、感知神经学都有各自的位置。
他用一个虚构的“欧米茄小组”研制出超级智能体“普罗米修斯”的科幻故事揭开全书的序曲，与现实中的事件、人物、技术交织，亦真亦幻，从“普罗米修斯”通过租用亚马逊云计算，在亚马逊MTurk（注：MTurk是亚马逊提供的一个互联网众包服务市场，是亚马逊网络服务的一个组成部分）上提供智能服务，赚取第一桶金开始，其智能水平按小时计，递归增长，最终创建商业、媒体帝国，以至控制一切。
以这种“耸人听闻”的方式开篇，不外乎还是那个目的，吸引读者来加入“我们时代最重要的对话”：超级通用AI和人类的前景。
这是一个看上去很残酷的事实，计算机程序能够代替我们做一切的工作，区别只是，它做得更好。我们现今日常所见所议之AI，我在从前的文章里提到过，基本都属于“窄”AI范畴，遵循特定原则，执行特定任务，例如根据输入的字符推测可能的搜索串，或者在相片里识别不同的人脸。现实中，谷歌DeepMind对阿尔法狗的预期，便不同于此；其创始人哈萨比斯本人在很多公开场合不止一次地说过，他们的目的，是为了发现潜藏的通用知识（general knowledge)，而“狗”，大概就是一个我们较为熟悉的，尚在成长中的通用智能体。
DeepMind的认识，跟泰格马克一样，他压根不认为通用智能体是一个没有根据的假设。但在这本书里，他所关心的问题，不是AI是否能在智能水平上超过人类，而是，当它超过时，作为人类，我们如何生存下去？
对，开篇时我说过，他是乐观的，但这么看起来，他似乎满是忧患？这并不矛盾。他的乐观来自于，做好准备。因为如果将有一个强大无边的力量出现，而你希望它帮助你，那么唯一的途径是理解它，方能信任它。
上升的技术力量，和管理这个技术力量的智慧，这二者之间的赛跑，我们需要后者胜出。
在构成全书主体的四个章节里，泰格马克描绘了现在和不远的将来，并通过一系列极具独创性的思想实验，勾画出AI的可能远景。
在1962年的古巴导弹危机中，一艘配备了核动力鱼雷的苏联 B-59潜艇，在加勒比海被 11艘美国海军驱逐舰以及一架航空母舰拦截。它的电池失效，失去与莫斯科的联系，艇上的成员在高二氧化碳浓度中开始昏迷......编队指挥官下令向美舰开火，“我们都会死，但我们要让他们跟我们一起沉没。”
有一个人站了出来。编队的三位最高军官之一阿尔希波夫（Vasili Arkhipov）否决了这个命令，从而阻止了第三次世界大战的发生。泰格马克因此在书中发问，如果，那艘潜艇是自动战舰，由AI掌控，将是怎样的结局？
而眼下，可以预料的，AI极可能产生非常糟糕的决策。同时毫无疑问，它在另一方面，会让我们的生活变得更好，或者说，更方便更安全。从总趋势来看，有统计数据可以证明，它让工厂和高速路都变得更安全。 美国的工业事故从1970年的14,000 例，降低为2014年的4,821例，你不能否认AI对这一数字的贡献。
紧随其后的，便是超级智能了。泰德马克为未来的一万年画出了12幅场景。不要为一万年这个数字惊叹，这就是物理学家的世界观。在这12幅场景中，“自由主义乌托邦”十分醒目，在那里，AI，机械人（cyborg humans）以及一群类似于阿米什人（注：Amish，基督新教再洗礼派门诺会中的一个信徒分支，以拒绝汽车及电力等现代设施，过着简朴的生活而闻名，如今主要分布在美国宾州和加拿大安大略省）的农民，在一个被无所不知的极度博学的AI老大哥掌控的全球化政府监管下，相对隔离，但和平而繁荣地共生。而其他物种则处于被灭族的危险当中。
接下来的一章，场景转换到梦幻般的浩瀚宇宙，泰德马克毫不隐晦地指责科幻作家们在作品中，对人类未来的悲观和短视描画。在他的世界里，脱离了物理存在的AI，有着上帝般的智慧头脑，仅仅受制于物理定律，以光速移动，从黑洞旋转的力量中，或者从一种荒诞的名为 “sphaleriser” 的理论化设备中获取能量，将夸克碾碎成一种叫做courgetti的粒子。
泰格马克并没有疯。相反，他特别谨慎。
他在书中没有告诉读者是否需要担心，或者应该怎样去看待这件事。他仅仅发起了争议，这些争议，归结起来主要有两点，而且现今的AI研究领域对这两点并没有达成共识。
其一是关于时间线，我们会否以及何时能够创造出超级通用AI。一部分人认为这是痴人说梦，将永远是科幻，即便会实现，那也是几百年以后的事，现在讨论纯属杞人忧天。这是人类的本能，《权力游戏》中，小恶魔与囧有一段对话，囧困扰于如何才能说服所有人，他们不相信其存在的强大敌人正在逼近。异鬼、夜王在所有人眼里，都是乳母哄他们入眠时信口胡诌的传说。小恶魔告诉他，“（除了极少数）人的意识天生不是用来操心那么大的问题，面对一个熟悉的看得见的魔鬼，例如我姐姐，几乎就是一种解脱。” 而另外有很多人，则坚信，超级通用AI将在几十年内出现，我们必须严肃对待。
其二便是关于这件事是好是坏？有人认为这只是自然进化的一步，人类无疑会兵来将挡，水来土掩。泰格马克在这个问题上的乐观，不是“太阳每天都会升起”这一类。我们需要提前回答很多很多的问题，有的问题也许30年、100年内都不需要我们给出答案，但也许寻找答案这个过程，就需要30年、100年。
关键是，这些问题还并不能依靠技术大咖们来解决。
举个例，我在“大家”9月14日文章《机器人抢了我们工作怎么办？》一文中提到，即便失业并不意味着失去收入断粮，但我们的价值和人生目的如何体现？有读者留言表示不解，质疑我怎么会那么热爱工作？其实物质上的自然满足是否能让一个人得到真正的满足，稍微想一想，答案并不难。又比如，我们有了强大如AI的工具，我们是否希望它能和我们目标一致？可你怎样让它知道我们的目标，并且保证永远一致？连让自己生自己养大的熊孩子跟自己愿望一致还是个难题呢？何况熊孩子长大过程中，目标是不是一变再变？再进一步，作为人类，我们有统一的目标和愿望吗？换句话说，养孩子过程中，爹娘是否永远意见一致？那么这个目标，是川普的还是希拉里的还是ISIS的？
这些，都不是技术极客能够回答的问题。
在过去，技术总能成功，因为我们都相信“失败是成功之母”，可以从错误中学习。火开始惹祸了，我们发明了灭火器；汽车开始伤人命了，我们开始使用安全带…….但是面对更加强大的技术，例如核武器，生物合成技术，以至超级人工智能，我们不能再从错误中学习。因为这学习代价太大，人类付不起。
网友评论