美文网首页
ml-代价函数

ml-代价函数

作者: 天凉玩个锤子 | 来源:发表于2019-11-24 19:06 被阅读0次

目标:拟合逻辑回归模型的参数\theta
通过定义用来拟合参数的优化目标,即:代价函数

但是将ℎ_𝜃 (𝑥) = 𝑔(𝜃^T𝑋)代入得到的代价函数是一个非凸函数(non-convexfunction)。

重新定义逻辑回归的代价函数

Cost()函数特点:
当实际的 𝑦 = 1 且ℎ_𝜃 (𝑥)也为 1 时误差为 0
当 𝑦 = 1 但ℎ_𝜃 (𝑥)不为 1 时误差随着ℎ_𝜃 (𝑥)变小而变大;
当实际的 𝑦 = 0 且ℎ_𝜃 (𝑥)也为 0 时 代价为 0
当𝑦 = 0 但ℎ_𝜃 (𝑥)不为 0 时误差随着 ℎ 𝜃 (𝑥) 的变大而变大。

可以证明:我们所选的代价函数J(\theta)是凸函数,并且没有局部最优值。
得到代价函数之后,进行特征缩放,再使用梯度下降算法。

相关文章

  • ml-代价函数

    目标:拟合逻辑回归模型的参数通过定义用来拟合参数的优化目标,即:代价函数 但是将代入得到的代价函数是一个非凸函数(...

  • 代价函数

    代价函数 1、代价函数是什么?   理解的代价函数就是用于找到最优解的目的函数,这也是代价函数的作用。 损失函数(...

  • 线性回归

    代价函数 代价函数 梯度 正规方程 正规方程步骤

  • Tensorflow(3)

    优化MNIST分类简单版本二次代价函数VS交叉商代价函数防止过拟合 1. 二次代价函数 VS 交叉商代价函数 1...

  • 交叉熵代价函数

    交叉熵代价函数(cross-entropy cost function) 1.从方差代价函数说起 代价函数经常用方...

  • 机器学习(5)——代价函数误差分析

    代价函数简介   代价函数(Cost Function),通常也被称为损失函数(Loss Function)。这类...

  • 2019-07-27 tensorflow2

    分类 交叉熵代价函数回归 二次代价函数

  • [线性回归] 模型和代价函数

    代价函数 Cost Function 为了度量预测函数(hypothesis)的精确性,我们引入了代价函数。它用对...

  • 线性回归

    假设函数:代价函数: 梯度下降算法:

  • 3.2Logistic回归模型

    逻辑回归的代价函数 上图是之前线性回归问题时的代价函数,现将上图公式进行改写: 在线性回归问题中,代价函数会被定义...

网友评论

      本文标题:ml-代价函数

      本文链接:https://www.haomeiwen.com/subject/bzolwctx.html