对于人工智能，我们人类到底在害怕什么？

姓名：邹特强  学号：16020199026

转载自：https://www.guokr.com/article/444751/，有删节。

【嵌牛导读】：自“人工智能”一词在1956年达特茅斯学会上提出后。这个词随着科学技术的发展，渐渐来到人们的视线中，从AlphaGo到AlphaGo Zero的出现，人类显得越来越害怕，那我们到底在害怕什么，或者只是因为我们忘了初衷？

【嵌牛鼻子】：人类 人工智能

【嵌牛提问】：对于人工智能，我们人类到底在害怕什么？

【嵌牛正文】：

什么是人工智能？

1956年的达特茅斯会议(Dartmouth Conference)被公认为是人工智能的起源。因为这场会议的与会者是科学界的六位大佬，其中就包括“人工智能”之父马文·明斯基（Marvin Lee Minsky），同时还有麦卡锡(John McCarthy)、赛弗里奇、信息论创始人克劳德·香农(Claude Shannon)、纽厄尔和司马贺(Herbert Simon)。在当时，他们几个人并不知道，这场会议会改变世界。

会议原址：达特茅斯楼/来自“60年前的达特茅斯会议与AI的缘起”

人工智能（Artificial Intelligence，AI）一词在会议上提出后，就渐渐来到了人们的视线中。其实，当时提出这个概念之后，它还有另一个“孪生兄弟”——控制论（Cybernetics）。在会议之后，这两个词也随着时间的推移，在科学家之间的认可和质疑中互换位置。因为当时所讨论的是，“人工智能”所代表的就是失控、自主；而它的反面就是“控制论”所代表就是控制和依附。

在谷歌Ngrams里显示的就是处于这场讨论中的两个对立点“Cybernetics”和“Artificial Intelligence”两个词在谷歌图书搜索(Google Books)里出现的词频，可以看出学科的跌宕起伏，“人工智能”这个词真正被共同体广泛认可是在10年后——1965年伯克利大学的欧陆派哲学家德雷弗斯(Hubert Dreyfus)发表了“炼金术与人工智能”一文之后。

“Cybernetics”和“Artificial Intelligence”两个词在谷歌图书搜索(Google Books)里出现的词频

人工智能，它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

同时，它也是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。《走近2050》一书已经为我们揭示未来人类与人工智能的界限并不会那么明显，有可能未来法律定义一个生物属于人类，就需要严谨到一个生物机体的百分之多少是原生机体来判断了。

电影《人工智能AI》中人工智能小孩大卫/来自1905电影网

人类开发人工智能的初衷是什么？

早期人工智能的定位就是把它们创造出来，通过计算机和人脑模拟科学的结合运用，来帮助人类解决一些困难或者人力不可及的事情和工作。在这一水平下，人工智能的智能水平还处于弱人工智能，存在的角色也只是人类的“帮手”或者“助理”。

人类社会进入大工业革命之后，通过资本主义市场经济和工业大生产的推动，很多主要规模的工业和工厂使用了机械化生产。进入21世纪之后，渐渐摒弃了人工流水线的生产方式，转而用更先进的机器人来代替人工进行生产，比如：自动车床或者自动化流水化生产链等等。

德国宝马自动化流水线/来自必应

在这里请记住，人类的欲望是无限的。因此，在这之后，人类工程师想要让人工智能更加聪明，研究人员通过研究人类的思考模式，模仿人类进行逐步的推理，就像是玩棋盘游戏或进行逻辑推理时人类的思考模式。并且利用概率和经济学上的概念，使人工智能处理不确定或不完整的资讯，包括人工智能方面的方法论研究。

这一行为，就是帮助人工智能具有“学习”能力——深度学习（Deep Learning），当人工智能具有深度学习能力之后，就可以自我学习和自我进化，最后的结果就是让它们更加聪明，帮助人类做更多人类无法完成的工作。就像《神盾局特工》第四季中的人工智能——艾达一样，当时特工们为了拯救困在黑暗中的科尔森和菲茨，让艾达去读《黑暗之书》从而造出“跨纬度大门”，这就是一个很好的例子，虽然最后往不好的剧情去发展了而已。

《神盾局特工》人工智能—艾达/来自豆瓣

那么，这样的人工智能还是“弱人工智能”吗？答案是否定的，通过深度学习和大数据的“喂养”之后的人工智能已经变得更加聪明和自主，已经进化为“强人工智能”了。这样的人工智能可以帮助人类做更多的事情，完成更多人类无法完成的任务。

但是，这一切难道没有风险吗？

潘多拉魔盒

哲学思维告诉我们，对待任何事情，都必须用辩证的思维去思考。同样的，在我们对待人工智能也需要辩证的去思考：人工智能强大了，一方面对于我们人类是有利的；但是，另一方面，它会不会变成另一个“潘多拉魔盒”呢？

就像希腊神话讲的那样，潘多拉出于好奇打开一个“魔盒”，释放出人世间的所有邪恶——贪婪、虚无、诽谤、嫉妒、痛苦等等；当她再盖上盒子时，只剩下希望在里面。那如果我们人类已经打开了这个“魔盒”，想要再次关上将是不可能的事情。

潘多拉与魔盒.1885/来自Thought Co

目前，世界上的人们对于人工智能基本持有以下三种观点，首先对于人工智能的研究抱有乐观态度的人们一般是科学家或者研究工作者，而他们一般都集中于Google，微软和我国的阿里巴巴，华为这样的公司，这些企业基本都处于人工智能研究的前沿领域，同时这些公司还在研究基于互联网的物联网（The Internet of things）。

物联网，这个系统可以像互联网一样连接着千家万户的电脑网络一样，连接着家庭中或社会中的任何客观存在的事物，我们大家都看过一些科幻片，里面讲述的是通过一部手机就可以控制家里的任何电器，做到“何时何地，控制一切”。

阿里云服务器下的物联网系统/来自凤凰网科技

同时，通过人工智能“管家”打理家里的一切，我们人类只需要工作完之后回到家，享受生活就可以了。以上，这些并不是幻想，而是目前已经正在测试的一切，很多已经出现在我们的生活中。

物联网，如果说是信息革命带给人类的礼物，那么，人工智能就是智能革命带给我们的“礼物”。无论我们接受与否，它已经到来。

第二种观点就是反对，强烈的反对。代表人物就是著名的物理学家史蒂芬·威廉·霍金（Stephen William Hawking），霍金曾经在2014年接受BBC采访时被问到对于AI 的态度时表明：“人工智能的全面发展将宣告人类的灭亡。”

霍金在2014年接受BBC采访/BBC

他所担心并不是杞人忧天，现在已经有更多的科学家在警示人类“发展人工智能将会把人类送入坟墓”。理论是，人工智能目前看来对人类并没有什么威胁，因为它们还处于弱人工智能阶段，但是等到人工智能通过深度学习掌握向强人工智能进化的途径，那就会在很短的时间内超越人类。

第三种态度，就是中立，也就是观望。而这一部分人数占的最多，大约50亿左右，你没有听错，就是这个数目，在确切的说，就是我们每一个人类，我们都在观望，都在期待科学家和专家们帮助我们解决这个难题，或者等待国家领导人来解决问题。但是，在这里，想告诉每一个生存在地球上的人类，这件事和我们每一个人都有关系，而且有很大的关系，因为，我们全人类是一个命运共同体。

我们在担忧和害怕什么?

1957年，司马贺曾预言10年内计算机下棋会击败人。而到了1997年这个预言就实现了，国际象棋冠军加里.卡斯帕罗夫（Garry Kasparor）输给了IBM的计算机“深蓝”（Deep Blue），标志着国际象棋被机器沦陷。

1997年加里.卡斯帕罗夫对阵深蓝/来自德先生

紧接着，到了2016年3月9日这个预言又一次实现了，拥有1200多个处理器的谷歌人工智能系统AlphaGo，在深邃的围棋棋盘上把世界围棋冠军、韩国棋手李世石逼到绝路，曾经独孤求败的九段高手不得不投子认输，最后1:4落败。赢了李世石之后，AlphaGo在一系列在线匿名比赛中击败了数十位知名好手。

AlphaGo与韩国棋手李世石比赛现场/来自必应

今年5月它再现江湖，在中国乌镇对决最强棋手柯洁，柯洁的赛果也不比李世石好多少，以0：3败北。

AlphaGo在这些比赛之后，研究了数千盘人类高手之间的对局，从中提取规则和策略，然后在数百局与自身的较量中改进自己。这足以使它比任何人类棋手都更强大。这就是深度学习的能力。

打造了AlphaGo的公司DeepMind近日在《自然》杂志上发表论文，介绍了它的最新版本，名为AlphaGo Zero。AlphaGo Zero相比于AlphaGo下围棋更加厉害，因为前者学习速度大幅提升，所需的计算硬件也大大减少。

AlphaGo Zero发布视频/来自网络

那AlphaGo与AlphaGo Zero有什么区别呢？

可以这样说，AlphaGo当时是研究成千上万盘的人类对战棋局，然后从中去学习棋术，由于人类对局可以反映出人类对这些概念的理解，研究了足够多实例的计算机也就能掌握这些概念，这就是监督学习。

而AlphaGo Zero，并不需要向人类棋手学习，在非监督学习过程中可以不依靠人类提示而是进行自学，最后自学成才。总的来说，这似乎就是一大优势，而且是人工智能向强人工智能迈向了重要的一步。

AlphaGo Zero/来自必应

那么，我们到底在害怕人工智能什么呢？人工智能强大了，不是可以更多的帮助我们人类吗？

其实，我们在害怕我们自己，怕自己当拥有了它们之后，一日三餐，起床上床都是它们为我们做，我们不用多消耗任何一点能量，而这样，我们最后发现，我们有可能在它们眼里什么都不是了，我们是没有任何梦想，没有任何动力，那样，才是真正的是它们支配着我们的生活，不是吗？

我们真的有必要害怕吗？

现在我们每一个人类都知道一个名词：人工智能，而且我们知道自己害怕它们，在之前的500万年里没有一次这样的恐慌过。但是我们人类真的需要害怕吗？我们是人类，是世界上最聪明，拥有最强大脑的物种，我们需要害怕我们造出来的一堆“机器”吗？

与其害怕，还不如反省下我们自己，在对待人工智能的态度上，自负和欲望，是会带领人类真正走进坟墓的助推剂，因此，真正让人类害怕的应该是我们的内心。

首先，我们不应该害怕。不是因为我们太过于强大，而是因为我们太过于自负。这个世界上的相当大的一部分人类现在还在做着人类可以掌控一切的美梦，人工智能只能作为人类的工具的美梦。而在人类做着这样的梦的时候，人工智能正在一点一滴的追赶着人类的科技文明。但是，目前人工智能还没超越那个“度”，在这个“度”之前，存在三个阶段：

第一个阶段，人工智能应该需要100年的时间来追赶这个“度”；

第二个阶段，是它们跨越这个“度”，而时间或长或短，有可能一个小时或者一秒钟；

第三个阶段，就是当它们跨越过这个“度”后，将会花很短的时间甩开人类的5000万年的科技文明，有可能只需一天的时间，在一天之后，人类在不要在妄想看到它们，因为它们已经超越于人类文明的几个维度之前了。

另一方面，人类的欲望是无限的，因此对于人工智能这样具有巨大潜力的技术也不会放过。就比如AlphaGo这样，即使围棋领域已经很强了，但是人类还是不甘于止步，接着研发出来了AlphaGo Zero，而且已经具备了自主学习的能力。

虽然，人工智能目前还处于弱人工智能，还有很大的发展空间，而且还在人类的控制范围之内。但是，也可以想到，在人类永不知足的欲望驱使下，人工智能会越来越强大，直到人类无法掌控的地步，到那时就无法挽回了。

因此，对于人工智能，我们真的没有必要害怕，相反，我们更应该做的是控制住自己的内心才是最正确的选择。也只有控制住我们的欲望和自负，才能将人工智能的发展掌握在人类可控范围之内。

我们要确信一点，人工智能在大数据和深度学习两个工具的帮助下，成长的速度刚开始会很慢，但是在之后会慢慢变快，直到突破人类控制，那应该就是一瞬的过程。如果它们超越了那个“度”，那么，我们真的没有必要去害怕和恐慌些什么了。

因为，我们在它们眼里，只是一行数据而已。

“人工智能的进步经常会引发人类对于自己将被淘汰的担忧，希望这样的机器最终不会替代生物大脑，而是成为大脑的助手，就像搜索引擎和造纸术等技术所作的那样，毕竟，看着机器发明新的方法来解决问题可以推动人们走上新的、更高效的道路。”

DeepMind发言人希瓦尔这样说：

“AlphaGo的好处就是鼓励人类棋手去质疑这项历史悠久、传统深厚的技艺旧有的智慧，并做出新的尝试。”

败给AlphaGo之后，柯洁研究了计算机的走法，开辟思路。随后，他在与人类对手的对弈中连胜22局，即便以他的水平，这也是一个令人赞叹的成就。

我想，这应该就是人类研发人工智能的初心吧！勿忘初心，继续努力！

                                                                                                                           祝，安好！