美文网首页
Logistic Regression

Logistic Regression

作者: Hayden_wong | 来源:发表于2019-01-11 16:53 被阅读0次

    Hypothesis Representation


    对于分类问题,我们需要输出0或1,所以我们可以预测:

    h_{\theta }(x)>=0.5时,预测 y=1

    当时h_{\theta }(x)<0.5,预测  y=0

    因此,我们希望想出一个满足某个性质的假设函数,这个性质是它的预测值要在0和1之间。

    线性回归模型,因为其预测的值可以超越[0,1]的范围,并不适合解决分类问题。

    我们引入一个新的模型,逻辑回归,该模型的输出变量范围始终在0和1之间。 

    逻辑回归模型的假设是: h_{\theta }(x)=g(\theta ^T X )

     其中: X代表特征向量  

                g代表逻辑函数(logistic function)是一个常用的逻辑函数为S形函数(Sigmoid    function),公式为:g(Z)=\frac{1}{1+e^{-z}}  。

    该函数的图像为:

    h(\theta )的作用是,对于给定的输入变量,根据选择的参数计算输出变量=1的可能性(estimated probablity)即 h(\theta )=P(y=1\vert x:\theta )例如,如果对于给定的x
,通过已经确定的参数计算得出h_{\theta } (x)=0.7,则表示有70%的几率为正向类,相应地为负向类的几率为1-0.7=0.3。


    Cost Function 


    如何拟合逻辑回归模型的参数\theta 。具体来说,我要定义用来拟合参数的优化目标或者叫代价函数,这便是监督学习问题中的逻辑回归模型的拟合问题。

    相关文章

      网友评论

          本文标题:Logistic Regression

          本文链接:https://www.haomeiwen.com/subject/rtqxkqtx.html