1、交叉熵
p是数据的真实概率分布，q是由数据计算得到的概率分布。机器学习的目的就是希望q尽可能地逼近甚至等于p，从而使得相对熵接近最小值0。对交叉熵求最小值，也等效于求最大似然估计（maximum likelihood estimation）。具体可以参考Deep Learning 5.5 Maximum Likelihood Estimation。
2、均方（根）误差
均方误（根）差作为损失函数，描述预测值和真实值的误差。
参考：https://www.zhihu.com/question/41252833
http://blog.csdn.net/marsjhao/article/details/72630147
损失函数简要介绍 0-1损失 绝对值损失 log对数损失函数 平方损失函数 指数损失函数 Hinge损失函数 损失...
损失函数用来表示输出与实际值的差距。常用的损失函数为0-1损失函数、平方损失函数、绝对损失函数、对数损失函数、交叉...
1, 两个重要的函数：得分函数和损失函数损失函数： hinge损失，softmax 损失。hinge损失: max...
常用的损失函数 1.L1损失（绝对损失函数） 和 L2 损失（平方损失函数） L1范数损失函数，也被称为 最小绝对...
目标函数和损失函数的区别 损失函数：模型拟合的越好，损失应该越小； 目标函数：优化的目标，可以是“损失函数”或者“...
参考[1]损失函数 - 交叉熵损失函数
1 模型的函数表达式，如逻辑回归函数 2 定义损失函数，最小二乘损失，0/1损失，交叉熵。 3 目标函数，损失函数...
练习：绘制常见损失函数 损失函数：Logistics损失(-1,1) SVM Hinge损失 0/1损失 首先我...
损失函数 什么是损失函数 损失函数（Loss Function）又叫做误差函数，用来衡量算法的运行情况，估...
更多文章可以访问我的博客Aengus | Blog 损失函数 （1）0-1损失函数（2）平方损失函数（3）绝对损失...
本文标题：损失函数
本文链接：https://www.haomeiwen.com/subject/hvybtftx.html
网友评论