美文网首页凸优化
凸优化(六)——最速下降法

凸优化(六)——最速下降法

作者: Herbert002 | 来源:发表于2016-08-08 17:05 被阅读2751次

〇、说明

凸优化主要学习《凸优化》(Stephen Boyd等著,王书宁等译)[1]这本书。学习过程中,对其内容的理解时有困惑,也参考一些其他书籍资料。笔者尽量将这部分知识整理地简洁明了,成此系列笔记。

如有错误疏漏,烦请指出。如要转载,请联系笔者,hpf_2006pyy@163.com。

一、简介

利用目标函数的一阶泰勒展开近似优化过程,求得搜索方向的方法。

二、思路及推导

三、规范化

附录

A、参考

[1]、《凸优化》,Stephen Boyd等著,王书宁等译

[2]、《矩阵分析及应用》

[3]、《再谈 最速下降法/梯度法/Steepest Descent》

B、相关目录

凸优化(一)——概述

凸优化(二)——凸集

凸优化(三)——凸函数

凸优化(四)——问题求解

凸优化(五)——回溯直线搜索

凸优化(六)——最速下降法

凸优化(七)——牛顿法

凸优化(八)——Lagrange对偶问题

C、时间线

2016-08-08 第一次发布

相关文章

  • 凸优化(六)——最速下降法

    〇、说明 凸优化主要学习《凸优化》(Stephen Boyd等著,王书宁等译)[1]这本书。学习过程中,对其内容的...

  • 凸优化笔记2-主要内容

    笔记主要内容 凸集、凸函数、凸优化 凸优化理论 若干算法

  • 机器学习(6)——凸优化理论(一)

    概述   凸优化,或叫做凸最优化,凸最小化,是数学最优化的一个子领域,研究定义于凸集中的凸函数最小化的问题。凸优化...

  • 梯度下降训练线性回归(最优化2)

    实验目的 梯度下降法是一个最优化算法,通常也称为最速下降法。最速下降法是求解无约束优化问题最简单和最古老的方法之一...

  • 线性回归(机器学习4)

    实验目的 梯度下降法是一个最优化算法,通常也称为最速下降法。最速下降法是求解无约束优化问题最简单和最古老的方法之一...

  • Convex Optimization Note 1 | Int

    凸优化,或叫做凸最优化,凸最小化,是数学最优化的一个子领域,研究定义于凸集中的凸函数最小化的问题。凸优化在某种意义...

  • 凸优化有什么用

    本文结构: 凸优化有什么用? 什么是凸优化? 凸优化有什么用? 鉴于本文中公式比较多,先把凸优化的意义写出来吧,就...

  • 凸优化&非凸优化

    凸优化指的是,如果得到了局部最优,那么这个局部最优就是全局最优。 讲凸优化就涉及到凸函数和凸集合集合C内任意两点间...

  • 凸优化相关概念学习笔记

    前言 由于凸优化具有一些很好的性质,比如: 凸问题中的局部最优解就是全局最优解 凸优化理论中的拉格朗日对偶为凸优化...

  • 通俗易懂地理解机器学习理论中的凸优化

    写在前头 凸优化问题(OPT,convex optimization problem)指定义在凸集中的凸函数最优化...

网友评论

    本文标题:凸优化(六)——最速下降法

    本文链接:https://www.haomeiwen.com/subject/ktersttx.html