人工智能、机器学习、深度学习的区别

概念.png

人工智能

将通常由人类完成的智能任务，尽量实现自动化；

机器学习与程序设计的区别

在传统的程序设计中，我们告知计算机数据和计算规则，计算机输出计算结果；
对于机器学习，我们告知计算机数据和计算结果，计算机输出计算规则；
因此，机器学习应用，是通过数据训练出来的，而不是通过程序编写出来的；

机器学习与深度学习的区别

对于机器学习，它需要将输入的数据，转换 成有意义的表示，然后从有意义的表示中，获取我们想要的结果；对于以前传统的机器学习方法，这种 转换 只涉及 1 ~ 2 层，对于深度学习，这种转换可能涉及几十上百甚至上万层，所以叫做"深度学习"

机器学习的三要素

1. 样本数据集
2. 预期输出的示例
3. 衡量结果好坏的方法

机器学习的核心

在预先定义的一组方法（即假设空间 hypothesis space ）中，找到一种有意义的变换数据的方法，使得数据转换成更加有用的表示（representation）

深度学习中“深度”的意思

1. 深度（depth） 是指学习的过程，涉及很多层级的堆叠，所以深度学习也叫层级表示学习（hierarchical representation learning） ，或叫分层表示学习（layer representation learning）；
2. 分层的做法，来源于神经网络模型（neural network）启发，但事实上它跟人类大脑的神经网络模型，并没有任何关系；只是恰好用这个启发，来命名这个学习模型而已；
3. 传统的机器学习由于只涉及 1~2 层的数据表示，因此有时也叫做浅层学习（shallow learning）；
4. 深度学习可以简单理解为：一种学习数据表示的多级方法；每一级的方法，就像是一个蒸馏的操作，虽然每经过一级变换，数据变得越来越少，但纯度却越来越高，从而跟要解决的任务越来越相关；

深度学习的工作原理

工作原理.jpg

1. 权重（weight） ：神经网络中，某一层对数据所做的变换操作，存储于该层的权重中；权重是一组数字，它是该层数据变换操作的参数（parameter） ；每层的数据变换操作，通过权重来实现操作的参数化（parameterize） ；

2. 学习的过程，即为神经网络中的所有层，找到一组最合适的权重值，使得输入的示例，能够与目标一一对应；

   
   工作原理-2.jpg

3. 损失函数（loss function） ：用于计算神经网络的预测值与真实目标值之间的差距（损失值）；损失函数有时也叫目标函数（objective function）

   
   工作原理3.jpg

4. 深度学习技巧：根据损失函数计算出的差距（损失值），作为反馈信号，对权重进行微调，以降低下一次计算的损失值；这种调节由优化器（optimizer）来完成，它使用了反向传播算法（back propagation）的原理；

5. 整个调节的过程，称为训练循环；通过对几千个示例，进行几十次的循环，最后就有可能得到损失值最小的计算模型；