荐语
人工智能可以说是当下最热的话题之一，由此也引发了不少关于“人类生存危机”的讨论。只有了解人工智能和深度学习的前世，才能帮助我们更好地站在当下、展望未来。《深度学习：智能时代的核心驱动力量》一书为我们描绘了人工智能的简明历史，介绍了深度学习的过去、现在和未来。全书分三个部分，第一部分介绍了深度学习缘起的动机和技术背景，第二部分解释了几种不同类型的神经网络架构中的学习算法，第三部分则探讨了深度学习对当下我们生活产生的影响以及对未来可能产生的影响。本文将主要梳理《深度学习：智能时代的核心驱动力量》一书的第一部分，即深度学习缘起的动机、技术背景，与读者分享人工智能发展以来的各种“艰辛”。
作者简介
本书作者特伦斯·斯诺夫斯基（Terrence Sejnowski），是全球人工智能十大科学家之一、深度学习先驱及奠基者，美国四大国家学院在世仅3位的“四院院士”之一，全球人工智能顶级会议NIPS基金会主席。其主理的《学习如何学习》（Learning how to learn）是全球最大在线学习平台Coursera最受欢迎课程，学习人数超过300万。作为神经网络的先驱，早在1986年，就与杰弗里·辛顿共同发明了玻尔兹曼机。
引言
深度学习的起源可以追溯到20世纪50年代人工智能的诞生。关于如何构建人工智能，当时存在两种不同的观点：一种观点主张基于逻辑和计算机程序，曾主宰人工智能的研究和应用数十年；另一种观点则主张直接从数据中学习，经历了更长时间的摸索才逐渐成熟。下图呈现的是这一时期的几大关键事件。
一、早期的AI：计算机视觉和专家系统
（一）20世纪60年代：计算机视觉
最早，人们有一种“错觉”，认为编写计算机视觉程序很容易。其演进过程也证明并非如此。
计算机视觉研究中最早的想法之一是将物体的模板与图像中的像素进行匹配，但是这种方法收效甚微，因为同一物体不同角度的两个图像中的像素并不匹配。
因此，计算机视觉的进步是通过关注特征而非像素来实现的。例如，赏鸟者必须具备专业水平才能区分只在一些细微处略有差异的不同鸟类。然而，这种基于特征的识别方法也面临诸多挑战，如，需针对不同物体开发特征检测器（耗费人力）、被部分遮挡的物体的图像识别容易产生歧义（不够准确），等。这让早期AI先驱们十分懊恼。
（二）20世纪70年代-80年代：人工智能专家系统
人工智能专家系统在20世纪70年代-80年代非常流行。
最典型的就是在医学领域，开发了一个专家系统MYCIN，用来识别导致感染性疾病的细菌。其开发思路大体是：收集由传染病专家提供的事实和规则，已经病人的症状和病史，然后将信息输入系统中的计算机，最后通过编写程序让计算机使用逻辑进行推理。这看上去似乎不难，然而在实际操作时缺困难重重，如，规则的权威度，信息录入耗费人力，等等。
（三）小结
早期的AI进展十分缓慢，主要有几个原因：研究人员低估了现实世界问题的复杂性，提出的解决方案又无法进行大规模应用，当时的数字计算机还处于非常原始的阶段，且存储器成本十分高昂。
二、AI的重生：深度学习和神经网络
（一）跳出困境：向人脑学习
任何人工智能的难题都可以被解决。自然界给出了四条暗示，跳出已有视角，向人类的大脑学习：
第一，我们的大脑是强大的模式识别器。
第二，我们的大脑可以通过练习来学会如何执行若干艰巨的任务。
第三，我们的大脑并没有充斥着逻辑或规则。
第四，我们的大脑充满了数百亿个小小的神经元，每时每刻都在互相传递信息。
（二）深度学习的起点
康奈尔大学教授弗兰克·罗森布拉特是最早模仿人体自动图案识别视觉系统架构的人之一，他发明的“感知器”是深度学习网络的早期雏形，是能够将图像进行分类的简易学习算法。
感知器激发了对高维空间中模式分离的美妙的数学分析。俄罗斯数学家弗拉基米尔·瓦普尼克在此基础上将感知器泛化，提出“支持向量机”，并被大量用于机器学习。
但是，后来马文·明斯基和西摩尔·帕普特在1969年出版的《感知器》一书中指出，感知器的能力是有限的，它只能区分线性可分的类别。
尽管出现了分歧，但他们的研究都对我们理解感知器有着重要贡献，而这也正是深度学习的起点。
（三）被低估的神经网络
弗兰克·罗森布拉特开启了利用神经网络进行计算的新时代，止于1969年的争论。直到20世纪80年代，新一代神经网络研究人员开始重新审视这个问题。
本书作者特伦斯·斯诺夫斯基和杰弗里·辛顿合作研究出了一种新型神经网络模型，叫作“玻尔兹曼机（Boltzmann machine）”，就此打破了阻碍一代人研究多层网络模型的僵局。玻尔兹曼机学习算法可以学习处理“暗箱”问题，这表明通过多层网络的长期训练，可以达到预想的效果。
机器学习的发展，与乔治·布尔的著作《思维规律的研究》有密切关联，这是“布尔逻辑”的数学基础，是数字计算的核心，也是20世纪50年代人工智能萌芽期成果的基石。
“奖励学习”是机器学习研究的一个新兴分支，受启发于心理学的联结主义。机器通过探索环境中的各种选择，并从结果中学习，如果行动成功，计算机便得到奖励，最终发现最佳策略。
这一时期学者们的努力，开创了“计算神经科学”“人脑连接组学”“认知神经科学”等新兴研究领域，对大脑学习行为的研究也从行为层面深入到分子层面。
三、AI的未来走向：智能时代的来临
在信息科学的推动下，我们将步入算法驱动、芯片崛起的智能时代，走向深度智能。未来，我们也将迎来更便捷的生活、更精准的医疗以及更出色的教育。
“人类智能是如何进化的，人工智能又将如何演进”是本书的核心议题。这两种智能之间的巨大差异在于，人类智能的进化经历了数百万年的时间，而人工智能在最近几十年才发展起来。作者指出，“人工智能”不会取代“人类智能”，反而会让我们更加“聪明/智能”。但前提是，我们要成为更出色的学习者、成为终身学习者。
美国哲学家伊德（Don Ihde）提出了技术哲学，我们应该清楚地认识到，技术已经介入并融入到我们生活的各个层次，成为我们身体的一部分，改变了人和世界的关系。未来，人将被分为两类，互动者和被互动者。只有成为更出色的学习者，才不会被技术互动，被人工智能取代。
网友评论