吴恩达机器学习笔记 - 逻辑回归

问题提出

• 生活中分类问题
  1. 垃圾邮件或者不是垃圾邮件，肿瘤或者不是肿瘤...
  2. 分类值y = 1或者y = 0，定义逻辑回归函数:
• 数学表达
  1. 
  2. 定义：
  3. 定义：

假设陈述

在x值下y=1的可能性，其中y = 1的可能性和y = 0的可能性之和为1

决策边界

在给定θ值下，达到预测值的x曲线即为决策边界。可以为线性，也可能是非线性的。

代价函数

• 按照线性函数定义出来的代价函数，，是个非凸函数，有多个区间极小值，不利于求解。
• 逻辑回归的代价函数

• 极大似然估计MLE得到的, 并求梯度函数

多元分类

• 多元分类，简化为二元类，由多个来决定划分，取概率最大的那个即是所在的类别。