美文网首页
损失函数的选择

损失函数的选择

作者: MC_Dream | 来源:发表于2019-06-22 20:00 被阅读0次

回归问题常用:均值平方差损失函数(MSE);交叉熵问题常用交叉熵损失函数(CE)。

那为啥?

1.从原理上来讲,CE就是分类问题的极大似然估计,并不适用于连续变量的回归问题。

2.对于分类问题,若采用逻辑回归算法,MSE一般是非凸函数,不能取得全局最优解,且MSE容易发生梯度消失;而CE是凸函数,能取得全局最优解。所以分类问题一般用CE。

MSE CE

相关文章

  • 损失函数选择

    机器学习算法中最终优化的为模型的损失函数,而损失函数各种各样,对于不同的模型,选择什么样的损失函数才比较合适。本文...

  • 损失函数的选择

    回归问题常用:均值平方差损失函数(MSE);交叉熵问题常用交叉熵损失函数(CE)。 那为啥? 1.从原理上来讲,C...

  • 机器学习:常见的损失函数

    损失函数简要介绍 0-1损失 绝对值损失 log对数损失函数 平方损失函数 指数损失函数 Hinge损失函数 损失...

  • 如何选择损失函数

    https://zhuanlan.zhihu.com/p/38529433 【AI科技大本营导读】机器学习中的所有...

  • (4)损失函数

    损失函数用来表示输出与实际值的差距。常用的损失函数为0-1损失函数、平方损失函数、绝对损失函数、对数损失函数、交叉...

  • 【深度学习】

    1, 两个重要的函数:得分函数和损失函数损失函数: hinge损失,softmax 损失。hinge损失: max...

  • DeepLearning学习笔记2_deep learning

    Tips for training DNN 1. 选择合适的损失函数 choose proper loss 当选择...

  • 各机器学习模型的目标函数

    目标函数和损失函数的区别 损失函数:模型拟合的越好,损失应该越小; 目标函数:优化的目标,可以是“损失函数”或者“...

  • 损失函数概述

    常用的损失函数 1.L1损失(绝对损失函数) 和 L2 损失(平方损失函数) L1范数损失函数,也被称为 最小绝对...

  • 机器学习随笔

    1 模型的函数表达式,如逻辑回归函数 2 定义损失函数,最小二乘损失,0/1损失,交叉熵。 3 目标函数,损失函数...

网友评论

      本文标题:损失函数的选择

      本文链接:https://www.haomeiwen.com/subject/ktgvqctx.html