在之前的文章“易图秒懂の神经网络诞生"里面,我们谈到神经网络在感知机诞生后不久就遇冷了。 但是文章”易图秒懂の人工智能诞生“里面谈到,人工智能的发展并没有停滞。 其中,最著名的就是符号主义symbolic approach,symbolism的盛行。 这个方向的发展, 奠基了现在很火的知识图谱Knowledge Graph的方向。
前言
人工智能的诞生, 主力有McCarthy和Shannon, 他们对符号主义的奠基人Simon产生了巨大的影响。
Simon带着他的学生Newell一起参加了Dartmouth会议, 随后他们一起发明了IPL语言,和McCarthy类似。McCarthy找到IBM工作时的同事Rochester一起开发了LISP语言。 而Newell也找RAND公司的计算机同事Shaw一起, 创立了IPL语言。
就是基于LISP语言, Simon他们开启了牛牛的模式, 其中之一就是基于Shannon的Minimax跳棋程序的实现, 吸收了McCarthy剪枝的改进,开发了Alpha-beta剪枝的空间搜索, 并且开发了最早期的国际象棋的程序。 后来IBM的deep blue和Google的AlphaGo都是Alpha-beta的后续发展结果。其中Alpha-Go某种意义上就是Alpha-beta的Alpha。
接下来我们解释下, Simon是如何奠定了符号主义!
一图抵千言
有了IPL语言后,Simon,Newell和Shaw一起开发了一个叫Logic Theorist的程序。这个程序相当厉害, 集成简单的逻辑推理能力, 并且证明了罗素的数学原理前52个定理里面的38个。 于是乎,大获成功。其中,部分证明, 甚至超越人类的证明, 简单新奇。 并且他们开发的NSS象棋程序也可以进行人机弈。 在这一系列强大的惊叹号下, 他们开始大胆预测, 10年之后, 机器将在很多方面取代人类。
这个过程和现在AlphaGo的惊奇何等相似!当然这离不开Shaw这个牛牛的程序员的功劳, Shaw是JOSS语言的发明人, 这个语言是Basic语言的前生。有这么牛的程序员, 只要有好的想法, 都是会计算机实现的。
正是由于在逻辑推理方面的成功,他们三人又定义了GPS的逻辑推理架构, 并且提出启发式搜索的思路。 基本上, AlaphaGo依然符合这个GPS General Problem Solver 推理架构。 这方面的成就,让他们获得了图灵奖。
故事并没有随着Simon和他学生Newell获得图灵奖就结束。之后Simon的学生Feigenbaum,另外一个图灵奖获得者,他受到GPS的强大“刺激“”,一心想找个地方实现GPS的具体应用。他开创了斯坦福的知识系统实验室KSL。
Feigenbaum和Simon一起开发了EPAM模型, 开创了记忆学习。 这样,推理不再需要从头到尾的全学习,只需要记住已有的知识, 在这个知识上进行推理。
有了EPAM记忆学习的思路, Feigenbaum和斯坦福的同事Buchanan一起, 找到一个应用。 这个应用就是诺贝尔奖获得者Lederberg在基因工作方面的需求:标识从未见过的有机分子。 在这个需求下, 他们三人一起合作开发了第一个专家系统叫Dendral。 这时候LISP语言发展很快,他们已经切换到用LISP语言来实现Dendral。Dendral某种意义上是GPS和EPAM模型结合的一个具体实现。
有了Dendral专家系统的经验,Feigenbaum的同事Buchanan,指导学生Shortliffe实现了另外一个专家系统, 叫MYCIN,对后世影响巨大。
MYCIN也是通过LISP语言实现, 应用于传染病诊断。 除了存储规则, 还有了backward chaining推理机制。 结合存储和推理,MYCIN开创了基于规则的专家系统领域。 当然这一切也是在Feigenbaum的指导下。
随着专家系统的成功, Feigenbaum也没有闲着, 开了两家公司IntelliCorp和Teknowledge。其中IntelliCorp卖给SAP,大赚一笔。 Simon的学生真是研发、商业两手抓,两手都硬气!
故事依然没有结束, 有了专家系统之后, 大家发现问题都集中到了两个方面, 一是知识的获取和管理, 另一个则是推理引擎。 便有了研究知识库和推理引擎发明的大量投入。 其中MYCIN的backward chaining推理被Colerauer的芬兰计算机学家实现为Prolog语言。 这是人工智能领域专用语言之一。 是声明式语言的典范。另外一位计算机学家Forgy发明了Rete算法, 现在你用到的大部分推理引擎,基本都离不开Rete算法。
正是知识库的发展, 带来了数据库和知识图谱的发展, 这也为之后大规模数据挖掘和知识挖掘奠定了基础。
但是, 符号主义的影响并没有结束, 它深刻地影响了一个新学科认知科学的诞生。 这个学科是智力模型、行为主义方向和逻辑符号主义结合的一个新的方向。 Christopher是个理论化学家, 他被该领域深深地吸引, 对认知科学的定义和整理做出了杰出贡献。 他也是现在深度学习很火的Hinton的博士导师。
同样,认知科学也离不开物理实验的基础,这就是心理学家建立的行为模型和语言行为模型。这发明的极大成者就是伟大的乔姆斯基。他直接带动了计算语言学的发展。 我在美国的导师James Pustejovsky也是这方面的好手!他在词法语义和生成词法理论方面成果突出!
感谢他对我工作的指导和生活的照顾!
小结
这里梳理了神经网络冷遇之后,符号逻辑在司马贺Simon的影响下发展起来的过程及对后世的影响。
相关话题:
网友评论