最优化基础

作者: 吾倩 | 来源:发表于2019-02-23 17:02 被阅读0次

这篇主要是介绍基础概念，和重要的性质

凸集

$\forall x,y \in C ,\forall \lambda \in [0,1]$ ，都存在 $\lambda x+(1-\lambda )y \in C$ ,则称C为凸集

开集

$\forall x\in C,\exists \delta >0,[x-\delta ,x+\delta ]\in C$ ，则称C为开集

超平面

$\forall x\in C,\exists y$ 使得 $y\cdot x$ 为常量

支撑面

平面a如果与凸体Q有公共点，且Q在a的一侧，则称a为Q的支撑面

凸函数

满足以下两个条件的函数

1）函数的作用域是凸集

2） $\forall x,y \in C,\forall \lambda \in [0,1]$ ,都有 $f(\lambda x+(1-\lambda )y)<=\lambda f(x)+(1-\lambda )f(y)$

凸函数的性质：(懒得打了，复制了附1中的图片)

还有一个性质，当hessian阵为正定阵时，凸函数为严格凸，但是反向并不成立

一阶判定条件：利用 $\lim_{\Delta x\to0}\frac{f(x+\Delta x)-f(x)}{\Delta x} =f$ '(x)证明

二阶判定条件：利用中值定理和泰勒展开式证明

梯度

一个函数的全部偏导数构成的向量

hessian阵

函数的二阶偏导矩阵

半正定矩阵

$A\in R_{nxn} ,\forall x\in R_{n}$ ，x'Ax>=0，则称A为半正定矩阵，充要条件是矩阵的特征值全部>=0

鞍点

在微分方程中，沿着某一方向是稳定的，另一条方向是不稳定的奇点，叫做鞍点。在泛函中，既不是极大值点也不是极小值点的临界点，叫做鞍点。在矩阵中，一个数在所在行中是最大值，在所在列中是最小值，则被称为鞍点

参考资料

1.凸函数的性质：https://www.cnblogs.com/wander-clouds/p/8569144.html

网友评论

本文标题：最优化基础

本文链接：https://www.haomeiwen.com/subject/uurpyqtx.html

延伸阅读

深度阅读

您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！