优化 / 数学规划

从一个科学解的集合中，寻找出最优元素

优化问题的通用形式

minimize $f_0(x)$
subject to $f_i(x) \leq b_i$ , $i = 1,...,M$

优化变量(optimization variable): $x = [x_1,...,x_n]^T$
目标函数(objective function): $f_0: R^n \rightarrow R$
可行解集(feasible set): $\left \{ f_i(z) \leq b_i,i=1,...,M \right \}$
最优解： $x^* \Leftrightarrow \forall z, z \in \left \{ f_i(z) \leq b_i,i=1,...,M \right \} , f_0(z) \geqslant f_0(x^*)$

优化问题分类

分类方法1:线性规划 / 非线性规划
$f_i(\alpha x + \beta y) = \alpha f_i(x) + \beta f_i(y) , i = 0,1,...,M$
凸优化/非凸优化
$f_i(\alpha x + \beta y) \leq \alpha f_i(x) + \beta f_i(y) , i = 0,1,...,M$
光滑 / 非光滑（目标函数）
连续 / 离散（可行域）
单目标 / 多目标

凸优化笔记1-介绍
优化 / 数学规划从一个科学解的集合中，寻找出最优元素优化问题的通用形式 minimize subject t...
凸优化笔记2-主要内容
笔记主要内容凸集、凸函数、凸优化凸优化理论若干算法
电力系统优化算法
电力系统优化算法实际应用介绍优化问题可以分成凸（convex）问题和非凸问题。凸问题都是可以找到最优解的，只是算...
凸优化笔记
Convex Optimization 这本书非常有意思，它是线性代数，几何学，集合论，数学分析的综合。第二章 ...
凸优化笔记(1) 引言
凸优化笔记(1) 引言 1. 引言 1.1 数学优化优化问题可以写成如下形式向量称之为优化向量，是目标函数，...
机器学习（6）——凸优化理论(一)
概述凸优化，或叫做凸最优化，凸最小化，是数学最优化的一个子领域，研究定义于凸集中的凸函数最小化的问题。凸优化...
Convex Optimization Note 1 | Int
凸优化，或叫做凸最优化，凸最小化，是数学最优化的一个子领域，研究定义于凸集中的凸函数最小化的问题。凸优化在某种意义...
凸优化有什么用
本文结构：凸优化有什么用？什么是凸优化？凸优化有什么用？鉴于本文中公式比较多，先把凸优化的意义写出来吧，就...
凸优化&非凸优化
凸优化指的是，如果得到了局部最优，那么这个局部最优就是全局最优。讲凸优化就涉及到凸函数和凸集合集合C内任意两点间...
【001】机器学习基础-凸优化基础
为什么开篇第一件事是介绍凸优化呢，原因很简单，就是它很重要！凸优化属于数学最优化的一个子领域，所以其理论本身也是...