Logistic Regression

logistics regression步骤：

step1：

图1-hx.png 图2-g(z).png

我们可以从图2中得出：
当z>=0，g(z)>=0.5，h(x)=1；
当z<0，g(z)<0.5，h(x)=0;

hx=sigmoid(z)

step2:
cost function

图3-J(theta).png

计算代价函数

step3：
gradient descent

gradient_descent.png

同步更新theta

step4:
optimization algorithm
使用高级算法来计算出theta，得出minJ(θ）
需要传入的数据有：

QQ20180308-143158@2x.png

options = optimset(‘GradObj’, ‘on’, ‘MaxIter’, ‘100’); 
initialTheta = zeros(2,1); 
optTheta, functionVal, exitFlag] = fminunc(@costFunction, initialTheta, options);

返回计算得出的theta。

• Regularized Linear Regression

然而有时候因为theta太多，会导致过拟合。
这时候就需要使用正则化，来防止过拟合。

regularization.png

就是在线性回归的cost function中添加theta^2*lambda的和
在这里新引入了lambda参数
如果lambda非常大，那么就会减小theta对函数的影响，
theta的值就越小，最终只剩theta(0)，而hx就变成了一条直线，完全的欠拟合。

gradient_descent.png

现在我们需要计算出theta的值，参照线性回归的gradient descent
我们把theta(0)单独提取出来，因为他不去改变特质值(x(0)=1)。

reg_gradient_descent.png

gradient descent在加入正则化之后的公式。

我们再对公式稍加整理得出：

theta_j_reg.png

• Normal Equation
  如果我们想要用正规方程求出theta
  先回顾下在线性回归中的normal equation：

  
  normal_equation.png

在正则化中，我们对方程做出修改：

normal_equation_reg.png

L是一个（n+1)*(n+1)的矩阵，其中第一行第一列的为0，也就是对theta(0)不做影响。
这样既可求出theta。