凸函数

作者: HELLOTREE1 | 来源:发表于2018-09-09 12:06 被阅读0次

凸集:

如果集合中任意2个元素连线上的点也在集合中,那么这个集合就是凸集。显然,上图中的左图是一个凸集,上图中的右图是一个非凸集。

凹凸函数本质是描述函数斜率增减的。

语义上凸为正,代表斜率在增加(单调不减)。凹为负,代表斜率在减少。

凸函数 优化问题

a, b, c

a, 费马大定理,即高中所学函数极值问题

b, 拉格朗日乘子法(Lagrange Multiplier) ,即把等式约束h_i(x)用一个系数与f(x)写为一个式子,称为拉格朗日函数,而系数称为拉格朗日乘子。通过拉格朗日函数对各个变量求导,令其为零,可以求得候选值集合,然后验证求得最优值。

c, KKT条件。同样地,我们把所有的等式、不等式约束与f(x)写为一个式子,也叫拉格朗日函数,系数也称拉格朗日乘子,通过一些条件,可以求出最优值的必要条件,这个条件称为KKT条件。

相关文章

  • Convex Relaxation, Convex Conjug

    了解机器学习的人应该都知道,在优化非凸函数的时候,希望用一个凸函数来代替这个非凸函数,以获取凸函数在优化过程中良好...

  • 最优化理论

    凸函数 若函数满足其中,,则称是凸函数。可以是多元函数。 Jensen不等式 若为凸函数,则对于任意点集,若, 【...

  • 凸函数

    凸集: 如果集合中任意2个元素连线上的点也在集合中,那么这个集合就是凸集。显然,上图中的左图是一个凸集,上图中的右...

  • 凸函数

    定义 凸函数: f(x)对于定义域S(凸集)上任意两点,如果,则称f是凸的。 强凸函数: 函数f可微,若对任意x,...

  • 凸函数

    凸函数 一.基本性质和例子 1.定义 定义一:函数f:是凸的,如果是凸集,且对于任意的和任意的0,有。 定义二:函...

  • 2019-02-25

    @[TOC](2.25机器学习数学基础笔记之二) 1. 凸函数的判定(开口往上凸函数 开口往下凹函数) ![在这里...

  • Expectation Maximum Algorithm(EM

    1. 预备知识 1.1 凸函数的性质 假设定义在实数域上的函数,对于 任意的实数,都有则函数称为凸函数,反之,为凹...

  • 《模型思维》之非线性模型

    非线性函数可以向下或向上弯曲,可以形成S形,还可以扭结、跳跃和波动。 一、凸函数凸函数的斜率是递增的:函数值随度量...

  • 微积分基础

    写在前面 知识点 函数 导数 微积分 偏导数 凸函数定义凸函数的性质 泰勒展开式泰勒公式的应用泰勒公式的推导 总结...

  • Hoeffding 不等式

    基础准备 1.定比分点公式 点为上一点,则设,则 证明: 2.凸函数性质 设,为凸函数,则 3.markov不等式...

网友评论

      本文标题:凸函数

      本文链接:https://www.haomeiwen.com/subject/zoqruftx.html