如今人工智能几乎家喻户晓,计算机视觉、语音识别、自然语言处理等都变得火热,而这一切都离不开一个人的成果,这个人就是杰弗瑞·辛顿(Geoffrey Hinton),深度学习技术的缔造者!
当他还是一个学生,第一次听说大脑对于事物与概念的记忆,不是存储于某一点,而是分布式的存储于神经元网络中时,他兴奋而着迷。
当他决定研究神经网络时,没有鲜花与掌声,而多的是冷眼与不解,因为神经网络被他的缔造者用一纸论文判了死刑。
当他潜心研究了8年,终于有了突破,却因为计算机算力不足无法应用而再次被打入冷宫,做了20年的冷板凳。
当他的研究再一次有了突破进展,已是2006年,这一次学者因他的研究而惊叹,世界为他的贡献而喝彩,大量AI创业公司因他的研究而诞生, 这一次AI技术真正走进了生活,这一波浪潮一直持续到现在....
彪悍的家族:
杰弗瑞 1947年出生于二战后的英国一个彪悍的家族,他的曾曾祖父就是那个著名的布尔代数发明人布尔,他的父亲是著名的昆虫学家,他的叔叔和姑姑是注明的马克是主义者寒丁和寒春。
百转千回的求学生涯:
杰弗瑞几乎和人工智能诞生于同一时代,4岁马文·明斯基创造了第一个人工神经网络,9岁时达特茅斯会议召开,人工智能作为一门学科正式诞生。然而这些和杰弗瑞并没有直接关系。杰弗瑞只是一个英国公立学校的学生,而且数学还不太好,只是特别喜欢物理。直到读高中时,他才和神经网络结下了不解之缘。那时,一个朋友告诉他,大脑并非将记忆存储在一个特定的地方,而是在整个神经网络里传播, 杰弗瑞对此深深着迷。这件事是他成功的起点。
但是杰弗瑞并不是天才学霸,事实上他求学路上还是颇有坎坷的,他先是去了克里夫顿大学,毕业后又去国王学院攻读物理和化学,可是一个月后就退学回家了,因为在那里整天工作看不到女孩,他觉得太压抑!第二年他又去申请了建筑学,这次坚持的更短,就上了一天课就不干了,他又转攻物理学和生理学,可是没多久他又“知难而退”了。再后来他又改学哲学,然后因为和导师发生争执又放弃了,不过这次哲学的经历,让他对思维如何运转产生了浓厚兴趣,于是他又去读心理学,然而他发现心理学并没有解读思维如何运转,不过他还是继续下去并获得了心理学的学士学位。
从杰弗瑞的求学经历看,可能第一眼感觉他是个浮躁的人,什么都耐不下心来做,或许他年轻时确实有些浮躁,但是这频繁的更换方向上,也体现了他对自我的坚持,我不知道他一次次退学更换时要承受多少质疑和轻视的眼光,然而他没有为了一个空虚的好“形象”而委屈真实的自我,他就是要找到自己真正热爱的领域。只有真的热爱,才能千年如一日的坚持。
毕业后杰弗瑞没有继续学术道路,而是去当了一个木匠,惊不惊喜!意不意外!不过,即使当木匠时,杰弗瑞还是不忘思考那个问题,思维到底是如何运转的!他经常去图书馆查阅资料,然后记下自己的思考!
重返科学,坚持不懈
几年后,他决定重新回到学术界,于是去读了爱丁堡大学的人工智能博士学位,他觉得人工神经网络必然是大势所趋,然而几年前,人工神经网络的权威专家明斯基已经用严谨的数学论证了单层神经网络功能很有限,并且预言多层神经网络也不会有什么好结果。 杰弗瑞的导师也是站在传统AI阵营,反对杰弗瑞搞神经网络,为此杰弗瑞还时常和导师发生争执。他对导师说:“好吧好吧,再给我6个月!", 6个月过去了,他说:“快了,快了,再给我半年吧!”,最后干脆说:“再给我五年!”, 五年过去了,他还是没有突破性的进展,然后依然坚持!
果然功夫不负有心人,在杰弗瑞坚持研究的第八年,他终于获得的突破性进展,并发表了一片划时代的论文,论文中提出可以用反向传播的方法训练多层神经网络,打破了马文·明斯基关于神经网络无用论的论断,使神经网络的研究起死回生!目前火热的AI应用绝大部分都得益于此方法的训练。不仅如此,杰弗瑞还作为主要发起人之一引领了连接主义运动,打败了符号主义,使神经网络的研究成了热门学科,就像前段时间的互联网和如今的大数据一样火热。
虽然有了划时代的突破,但是当人们拿去应用时却越来越发现有很大困难,一方面是因为数据不足,导致训练效果不好,另一方面是因为计算机算力不够,训练起来太慢了。而后来一种叫做支持向量机(SVM)的模型在实际应用中取得了非常好的效果,迅速的占领了主导地位,神经网络不久又被冷落。
然而那个坚持不懈的杰弗瑞,从未打算放弃,他又坚持了1年、两年、5年、10年、20年!终于在2006年,再次发表划时代的论文,提出了深度学习技术。而此时计算机算力和数据量都已经大大提高,深度学习诞生天时地利人和!迅速引起了学术界的兴趣!
杰弗瑞有带过一个博士后叫做 扬·勒丘恩(Yann Lecun),丘恩发明了卷积神经网络,可以自动提取图像的局部空间特征并且共享参数,2012年杰弗瑞带着自己的学生Alex参加了全球最高端的图像识别竞赛并且拿了冠军,其中核心技术就有卷积神经网络。而他们使用的整体神经网络被称为AlexNet,拿到冠军之后,杰弗瑞才算走红,并逐渐广为人知。
杰弗瑞后来创立了自己的公司,创立不久,仅有三个人的公司就被谷歌高额收购,杰弗瑞也因此就职于谷歌!
回味杰弗瑞的经历,比较富有喜剧性的是一个大学换了5个方向的人,竟然在人工神经网络领域里甘做20年冷板凳,终成大师!所以不要为了坚持而刻意坚持,也不要因为舆论而放下执着,追随你心,那是唯一值得坚持的方向!
好了,AI风云人物系列到此结束,前几篇如下:
【AI风云人物】他自学成才,19岁创办学校,影响人工智能200年
【AI风云人物】他差点被退学,终成科学家,被称为计算机之父和人工智能之父。
【AI风云人物】他创造了首个人工神经网络,却险些将其扼杀于摇篮之中
泡妞、逃课的富二代!却拥有9个博士头衔,国际大奖拿到手软,成为20个领域的专家
下一课,让我们一起纵览AI发展简史。
阿雷说,关注是最好的支持,转发是最大的鼓励!
网友评论