Logistic回归()——分类算法
-
(Logistic function/sigmoid function)
由图可知,当 时,y的预测结果为1; 时,y的预测结果为0
-
Decision boundary(决策边界)
,确定的值,就可以确定一个决策边界(即为决策边界
,决策边界与数据集无关
,但是是通过数据集拟合
得到的)
e.g.
-
cost function(Logistic regressing)
in linear regressing:
其中,
in logistic regressing
,若过不改变则图像含有大量局部最小值
适用于logistic regressing
的
-
cost fcuntion 的简化以及最优解的求法(梯度下降)
因此
Q:如何求解对的偏导?
【via:https://www.cnblogs.com/HolyShine/p/6403116.html】故,
logistic regressing gradient descent与线性回归
对应的式子是相同
的!!!因此,也可以用线性回归
中的方法来监测是否收敛
,也可以使用特征收缩
来使得梯度下降的更快
-
Advanced optimization (高级优化)——使得
最小化
logistic regressing中的cost function更快
(相对于Gradient descent)
-
Multi-class classification
方法:将一个N分类问题分成N个二元分类问题
将样本输入N个分类器,输出概率最高的分类器对应的类别,即为预测的结果
网友评论