为什么神经网络要用cross entropy?
因为用MSE时,和softmax 结合输出时会出现非凸问题
为什么回归问题用MSE?
因为预测的值可能是负的,没办法计算log(-1.5)之类的东西
正定矩阵有什么意义?
当海森矩阵是正定矩阵时,说明临界点x取得极小值
当海森矩阵是负定矩阵时,说明临界点x取得极大值
当海森矩阵是不定矩阵时,说明x不是极值点
https://www.cnblogs.com/liaohuiqiang/p/7805954.html
因为用MSE时,和softmax 结合输出时会出现非凸问题
因为预测的值可能是负的,没办法计算log(-1.5)之类的东西
当海森矩阵是正定矩阵时,说明临界点x取得极小值
当海森矩阵是负定矩阵时,说明临界点x取得极大值
当海森矩阵是不定矩阵时,说明x不是极值点
https://www.cnblogs.com/liaohuiqiang/p/7805954.html
本文标题:一些小问题
本文链接:https://www.haomeiwen.com/subject/msnttqtx.html
网友评论