逻辑回归的本质是最大似然估计
逻辑回归的输出是
![](https://img.haomeiwen.com/i15406998/72def91b1ed1a554.png)
分别表示取1和取0的后验概率。将上面两式联系起来得到
![](https://img.haomeiwen.com/i15406998/a6ce4351a954c92b.png)
取似然函数
![](https://img.haomeiwen.com/i15406998/c4453c1551748ec1.png)
再取对数
![](https://img.haomeiwen.com/i15406998/66ce4d0f5712874e.png)
最大似然估计就是求使似然函数最大的参数θ。此时可以使用梯度上升法优化代价函数
取负号和求平均后得到J函数
![](https://img.haomeiwen.com/i15406998/5560b6edd2808d8e.png)
此时就是求使J函数最小的参数θ。接下来用梯度下降法优化。
逻辑回归的本质是最大似然估计
逻辑回归的输出是
分别表示取1和取0的后验概率。将上面两式联系起来得到
取似然函数
再取对数
最大似然估计就是求使似然函数最大的参数θ。此时可以使用梯度上升法优化代价函数
取负号和求平均后得到J函数
此时就是求使J函数最小的参数θ。接下来用梯度下降法优化。
本文标题:逻辑回归的本质(非原创,仅记录)
本文链接:https://www.haomeiwen.com/subject/jyexkqtx.html
网友评论