美文网首页
吴恩达机器学习笔记 - 逻辑回归

吴恩达机器学习笔记 - 逻辑回归

作者: YANWeichuan | 来源:发表于2018-11-11 15:43 被阅读0次

    问题提出

    • 生活中分类问题
      1. 垃圾邮件或者不是垃圾邮件,肿瘤或者不是肿瘤...
      2. 分类值y = 1或者y = 0,定义逻辑回归函数: 0<= h_θ(x) <= 1
    • 数学表达
      1. 0<= h_θ(x) <= 1
      2. 定义:h(x) = g (θ^Tx)
      3. 定义:g(z) = {\frac{1}{1+ e^{-z}}}

    假设陈述

    在x值下y=1的可能性,其中y = 1的可能性和y = 0的可能性之和为1

    决策边界

    在给定θ值下,达到预测值的x曲线即为决策边界。h_θ(x)可以为线性,也可能是非线性的。

    代价函数

    • 按照线性函数定义出来的代价函数,J( θ) = \frac{1}{2m}\sum_{i=1}^{m}{(h_\theta(x^i) - y^i)^2},是个非凸函数,有多个区间极小值,不利于求解。
    • 逻辑回归的代价函数
    • 极大似然估计MLE得到的J( θ), 并求梯度函数

    多元分类

    • 多元分类,简化为二元类,由多个h_θ(x)来决定划分,取概率最大的那个即是所在的类别。

    相关文章

      网友评论

          本文标题:吴恩达机器学习笔记 - 逻辑回归

          本文链接:https://www.haomeiwen.com/subject/qeqxfqtx.html