深度学习（英语：Deep Learning）
是机器学习的分支，是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。现有的深度学习框架如深度神经网络、卷积神经网络、递归神经网络等已被用于计算机视觉、自然语言处理等方面且有极好的效果
此笔记内容和图片基于Udacity的深度学习视频
逻辑递归分类法（multinomial logistic classification）
流程图示
1.逻辑回归分类器：
输入数据后通过线性模型计算后产生对数几率。
在 y=Wx+b 这个模型中，x为输入参数即图片，b为偏置项，W为权重，是一个N维数组，用来分类预测图片。也就是最后想要确定的参数。y为预测的结果
逻辑回归分类器
2.softmax模型
将预测结果y利用softmax模型转换为概率累加和=1。
关于softmax原理具体请看这篇文章。侵删！
3.One-Hot编码
编码方式是让正确类别的概率接近1，其他的接近0。
image.png
例子：
预测为"C"所对应的编码
4.交叉熵（shang）Cross Entropy
交叉熵用于衡量两个向量距离差异。
本例中利用交叉熵比较经softmax模型后输出的概率向量与经过One-Hot编码的标签的向量的差异。
交叉熵（图片源于Udacity，侵删）
网友评论