Hypothesis Representation
对于分类问题,我们需要输出0或1,所以我们可以预测:
当时,预测 。
当时,预测 。
因此,我们希望想出一个满足某个性质的假设函数,这个性质是它的预测值要在0和1之间。
线性回归模型,因为其预测的值可以超越[0,1]的范围,并不适合解决分类问题。
我们引入一个新的模型,逻辑回归,该模型的输出变量范围始终在0和1之间。
逻辑回归模型的假设是:
其中: X代表特征向量
g代表逻辑函数(logistic function)是一个常用的逻辑函数为S形函数(Sigmoid function),公式为: 。
该函数的图像为:
的作用是,对于给定的输入变量,根据选择的参数计算输出变量=1的可能性(estimated probablity)即 例如,如果对于给定的,通过已经确定的参数计算得出,则表示有70%的几率为正向类,相应地为负向类的几率为1-0.7=0.3。
Cost Function
如何拟合逻辑回归模型的参数。具体来说,我要定义用来拟合参数的优化目标或者叫代价函数,这便是监督学习问题中的逻辑回归模型的拟合问题。
网友评论