http://blog.csdn.net/mzpmzk/article/details/51425692
非常好的两个问题:
1:我们知道LR中设定了一个阈值,一般该阈值是0.5 ,软后通过判断WX的正负就可以得到该样本属于哪一类,这样的话,为什么不直接使用线性回归,设定一个阈值,直接判断?
答:LR的神奇之处,关键在于对WX的输出结果进行了一个映射,实数阈 -》 (0,1)这个很关键
,既可以避免噪声的干扰太大,也可以将结果作为概率输出。
2:为什么LR使用了对数损失,而不用MSE损失?
答: 可以证明使用对数损失,该损失函数是凸的。而使用MSE将导致非凸函数。
此外,使用对数损失是合理的。解释如下:
当y = 1时,损失函数随着预测值的增大而减小,此时是合理的。
当y = 0时,损失函数随着预测值的增大而增大,此时是合理的。
网友评论