作者/编辑 | 橘子 配图：深度学习导论课程slides 来源 | 橘子AI笔记（ID：datawitch）

最近在学习Coursera上的高级机器学习专项课程（Advanced Machine Learning），它的介绍页是这样写的：这门课程主要讲解了深度学习、强化学习、自然语言理解、计算机视觉和贝叶斯方法。除了理论知识，Kaggle比赛的高分选手和CERN的科学家也将分享他们解决实际问题的经验，并帮助您填补理论和实践之间的空白。在完成7门课程后，您将能够在企业中应用现代机器学习方法，并了解使用数据和配置参数时的注意事项。

这个系列由俄罗斯国立高等经济大学开设，在Coursera上的评分很高（大部分课程评分在4.5/5或以上），根据课程推荐，我们可以使用Coursera云、Google Colab云或者自己的硬件（想知道怎么搭建深度学习环境？看这篇教程）来完成其中的实践作业。

深度学习导论（Introduction to Deep Learning）是专项课程系列中的第一部分，这部分包括：

第1周 - 最优化理论

第2周 - 神经网络导论

第3周 - 深度学习图像处理

第4周 - 无监督表征学习

第5周 - 深度学习文本处理

第6周 - 结课项目

本文是第1周的第1份课程笔记。

01. 高级机器学习专项课程介绍

这门专项课程适合哪些人学？

数据科学家 跟进领域内的前沿进展

程序员 通过机器学习工程师岗位的面试

学生 通过完成作业练习获得实践经验

学习这门专项课程需要有哪些基础知识？

机器学习

概率论

线性代数和微积分

Python编程

这门专项课程包括哪些内容？

理论向的课程

第1课 深度学习导论 

深度学习非常热门，并且正在各种领域当中得到广泛的应用，我们希望学生能真正地理解算法的原理，而不是只会堆叠组合神经网络的层数，在这门课程中我们将会讲解整个系列都会用到的基础模型和算法。

实践向的课程

第2课 贝叶斯方法

贝叶斯是许多机器学习算法的灵魂，可以用于评估不确定性、进行预测，在这门课程中，我们将构建一个变分自编码器（VAE）来生成新的人脸

第3课 自然语言处理

从经典方法到深度学习技术，这门课程将会讲解所有文本处理方法，我们将构建一个能回答Stack Overflow问题的聊天机器人

第4课 计算机视觉

这门课程先讲解基础知识，再讲解深度学习模型，例如图像分类、图像注释和视频注释所用的模型，我们将构建一个人脸识别系统

第5课 强化学习

这门课程讲解强化学习的基本算法，我们将构建一个能玩雅达利游戏的神经网络模型

将理论与实践联系起来的课程

第6课 如何赢得数据科学比赛

这门课程关于如何使用机器学习算法，将不同的模型组合起来，以高分赢得比赛

第7课 解决大型强子对撞机（LHC）难题

粒子识别问题是LHC实验中的一大挑战，并不能靠简单地堆叠机器学习算法来解决这一问题，还需要了解其他方面（课程会介绍）

02. 深度学习导论课程介绍

第1周 用线性模型解决分类问题

我们假设图中的x1、x2是两个特征，坐标系中的点表示人的性别，比如两种颜色分别表示男性和女性，这里有一个基本的分类问题就是，现在在这个坐标系中有一个新的点，我们该如何预测这个点属于哪一类？

在这个简单的问题中，我们可以找到一个分割平面，将两类不同颜色的点分开，这样就很容易看出平面中新的一个点属于哪一类。

第2周 多层感知机（MLP）二分类

现在这个二分类问题变得更加复杂了，比如，我们依然用两种颜色的点表示男性和女性，但是需要用旋涡形的分割线才能分开这两类点。

所以我们需要使用比线性模型更复杂的模型，比如最简单的神经网络——多层感知机（Multiple-Layer Perceptron, MLP）。

第3周 卷积神经网络（CNN）图像分类

在计算机中，一张图片实际上就是一个矩阵，矩阵中的数字表示了不同颜色的深浅。

针对图片处理，多层感知机已经不够用了，我们需要能处理图片的卷积层，使用卷积神经网络（Convolutional Neural Network, CNN）。

第4周 自编码器（AE）将图片编码为向量

神经网络有一个概念叫神经表征（neural representations），也就是说，神经网络能通过学习，将输入数据转化为维度更低的向量，这些更低维的向量就包含了输入数据的语义（semantic）。

我们来看一个例子，比如左边是一张原始图片，通过一个神经网络，我们可以将之编码为包含32个数字的向量，通过另一个神经网络，又可以将这个向量还原为图片，这种模型叫做自编码器（Autoencoder, AE）。

使用自编码器有什么好处呢？比如我们可以改变向量中的数值来生成不同的图片。还可以用自编码器来方便地寻找相似图片或重复图片。

举个例子，下图的最左列和最右列分别是两张人脸的图片，我们将这两张图片分别转为向量，这两个向量就相当于高维空间中的两个点。

这时候我们可以在高维空间中取任何一个点，然后将之转化为人脸图片，我们也可以看到，从最左边的人脸到最右边的人脸有一个逐渐变化的过程，比如肤色的变化、嘴型的变化等等。

第5周 循环神经网络（RNN）生成人名

这一周我们将讲解如何使用循环神经网络（Recurrent Neural Network, RNN）处理文本数据，包括模型的原理和训练的方法。

我们将训练一个能生成人名的循环神经网络。

第6周 多模型结合终极训练：图片转文字

我们会用到之前所学的所有知识，来训练这个图片转文字的模型，这个模型的输入是一张图片，输出是对这张图片的一段文字描述。

举个例子，我们来看一个现成的模型输出结果，上方的图片生成的描述是：“田野里站着一只长颈鹿，背景中是一片森林”，而下方的图片生成的描述是：“一个小孩在玩Wii手柄”。

这里有一个错误，小孩其实在用吹风机，那么可能我们的模型在训练的时候没有见过小孩用吹风机，但是这个吹风机确实挺像Wii手柄（笑）。

03. 最后的总结

到这里就要结束啦。不想把每篇笔记写得太长，那样不仅我写起来很慢，读者想必也很辛苦吧。

回顾一下，由于是整个系列的开篇视频，这两节课程的内容都比较简单，我们看完后能做到对接下来的学习内容有一个大致的把握、心中有数即可。

参考资料：

https://www.coursera.org/learn/intro-to-deep-learning/home/welcome

https://playground.tensorflow.org/

https://towardsdatascience.com/what-are-some-advanced-ai-and-machine-learning-online-courses-8609ab281450