美文网首页
《凸优化理论》笔记:前言

《凸优化理论》笔记:前言

作者: 松山剑客 | 来源:发表于2019-11-22 20:20 被阅读0次

简介

凸优化理论是非线性规划研究领域的核心成果,也是研究一般非线性规划问题的理论基础。
本文...介绍凸优化的一个完整理论分析框架。凸优化的理论基础在于对偶。...对偶的本质在于闭的凸集有两种等价的描述方式:用该机和包含的所有点的并集来描述,或用超平面描述,也即凸闭集等于所有包含它的闭半空间的交集。本文选取最小公共点/最大相交点的几何框架(MC/MC框架)作为凸优化问题的对偶性分析的基础框架。

本文的主要内容:

  • 凸分析的基本概念
  • 多面体凸性
  • 凸优化的基本概念
  • 对偶原理的几何框架
  • 对偶性在优化中的运用

本文的作者是 美国工程院院士Dimitri P. Bertsekas,老爷子的主页在这里

前言

优化的重点在于推导出约束问题存在原始和对偶最优解的条件。一个例子:

\begin{equation} \begin{aligned} &\text{minimize}\ f(x) \\ &\text{subject to } x\in X, g_j(x)\leq 0, j=1,\dots,r. \end{aligned} \end{equation}

最小最大问题的重点是推导保证等式
\inf_{x\in X} \sup_{z\in Z}\phi(x,z) = \sup_{z\in Z}\inf_{x\in X} \phi(x,z)
成立,以及下确界inf和上确界sup可取到的条件。

对偶框架

基于两个几何问题:最小公共点问题(min common point problem)和最大相交点问题(max crossing point problem)
优点:几何上的直观性
思路:MC/MC框架\rightarrow 一系列定理 \rightarrow 解决特定问题

补充

算法部分在本书网站

本书习题及答案可见网页

相关文章

  • 《凸优化理论》笔记:前言

    简介 凸优化理论是非线性规划研究领域的核心成果,也是研究一般非线性规划问题的理论基础。本文...介绍凸优化的一个完...

  • 凸优化笔记2-主要内容

    笔记主要内容 凸集、凸函数、凸优化 凸优化理论 若干算法

  • 凸优化相关概念学习笔记

    前言 由于凸优化具有一些很好的性质,比如: 凸问题中的局部最优解就是全局最优解 凸优化理论中的拉格朗日对偶为凸优化...

  • 凸优化学习前言:

    本次凸优化的学习是有关机器学习内容相关的整理。主要的阅读书目是:1)《Convex optimization Al...

  • 凸优化笔记

    Convex Optimization 这本书非常有意思,它是线性代数,几何学,集合论,数学分析的综合。 第二章 ...

  • 凸优化-概述

    参考教材《凸优化》,参考视频2011中科大凌青《最优化理论》 一.数学优化 1.定义 数学优化问题或者说是优化问题...

  • 凸优化笔记(1) 引言

    凸优化笔记(1) 引言 1. 引言 1.1 数学优化 优化问题可以写成如下形式 向量称之为优化向量, 是目标函数,...

  • 【001】机器学习基础-凸优化基础

    为什么开篇第一件事是介绍凸优化呢,原因很简单,就是它很重要! 凸优化属于数学最优化的一个子领域,所以其理论本身也是...

  • 机器学习(6)——凸优化理论(一)

    概述   凸优化,或叫做凸最优化,凸最小化,是数学最优化的一个子领域,研究定义于凸集中的凸函数最小化的问题。凸优化...

  • Convex Optimization Note 1 | Int

    凸优化,或叫做凸最优化,凸最小化,是数学最优化的一个子领域,研究定义于凸集中的凸函数最小化的问题。凸优化在某种意义...

网友评论

      本文标题:《凸优化理论》笔记:前言

      本文链接:https://www.haomeiwen.com/subject/xsnqwctx.html