一个自然语言处理炼丹师的自白
往期：
深度学习现在不光是在学术圈，就连大众们也被一波波媒体宣传浪潮洗着脑。于是深度学习成了那只风口上的猪，大家都想要蹭上它，带着自己也飞起来。接着各种各样的东西开始变得”deep”起来了，不”deep”就不够潮。吴教授有节课提到，深度学习能有如此大的影响力很大程度和它这个名字有关。
同时，很多人进入深度学习领域，人多力量大，推动着深度学习的飞速发展。这期间大量工具的出现，数据集的规范化，硬件生产的大规模效应，也使得进入的门槛越来越低，这又导致更多的人进入。于是这样就产生了一个正反馈系统，整个深度学习领域像在滚雪球一样，看看今年 NIPS 那件审稿丑闻就知道有多疯狂了，就连我最近投的 NLP 顶会 EMNLP 今年也是爆炸了，已经做好的准备了。
既然这么多人想学，有需求就有供给，网上也就出现了各种各样的学习资源，比如网课，博客，还有教程等，各式各样。要把所有资源列出来是非常难的，这里也就只能稍稍列出一些。
热身运动
先来 Cho 老师的课堂笔记 Natural Language Understanding with Distributed Representation Lecture Notes，和之前机器学习文章中不同这次是有深度学习了，虽然书的名字没有深度学习，但其实用在 NLP 里的 Distributed Representation 就可以理解为是深度学习网络中的向量。关于深度学习读前四章就好了。
接着是吴教授的公开课 deeplearning.ai，此刻一些吴教授的死忠们要怒了，居然敢把吴教授的课放在热身运动。平心而论，吴教授课确实上的好，但太温柔了，一切都给你准备好了，适合新人。或是接触过的人回去再看看，温故而知新。CNN 部分讲得特别棒。
然后还有一个，一两年前花书还没出来时特别火的一本网上电子书，Michael Neilson 的Neural Networks and Deep Learning。这个材料比较好的是，会边教你理论边教你自己动手搭建一个模型，而且网络上有代码。
正式开始
OK，正式网课也非常多，这里就推荐三款产品。
首先第一款，卡内基梅隆大学的 Introduction to Deep Learning，由 Bhiksha Raj 授课。一如 CMU 的一些其他课，特点是讲得非常全面，无论是基础的，经典的，还是最近的都有涉及到。在官网上，各种资料的链接也都有放出来，自己跟着课表一个个看下去就行了。
另外一款，个人很喜欢的 Hugo Larochelle 的网课 Neural networks class。深度学习说白的就是深度神经网络，这里面在网络说得很全面。但不足的是，有很多话题没有很深入，还有没有太提最近很火的一些概念。
最后一款，网红李飞飞大名鼎鼎的 CS231n 课，Convolutional Neural Networks for Computer Vision，这个其实我也不用多说，太有名了。对深度学习还有在计算机视觉方面应用的介绍非常棒，还有就是里面的练习也设计得特别好。因为很火的原因，练习也都能找到参考答案。
image
除了这三个之外当然还有很多啦，比如 Coursera 上 Hinton 大佬的神经网络课（PPT 真心丑），还有 Udacity 上要付费的 Deep Learning Nanodegree （不想付钱的话直接翻墙从 youtube 看 Siraj 小哥的视频，然后做作业也行。）
书，论文，还有博文
书嘛，很多很多。比如之前一直有提的花书《Deep Learning》，还有 O‘reilly （动物园）出版的深度学习相关，各种各样，可以参考这个网站：The 7 best deep learning books you should be reading right now。
image
其实蛮推荐的一种学习方法是，通过网课或者是看书积累一定基础之后，选择一个自己喜欢的课题或者领域。然后去找这个领域的论文，经典的，最近的都可以读。
博文的话，特别推荐 Colah 的博客，视觉化和互动做得太棒了。WildML 里面也有很多很棒的文章，特别是对新手来说，里面有一个深度学习词表 (Deep Learning Glossary) 特别有帮组。
好了，就到这里啦。
网友评论