美文网首页
第十章 共轭方向法

第十章 共轭方向法

作者: Xuang123 | 来源:发表于2019-06-18 19:11 被阅读0次

10.1引言

从效率上，共轭方向法位于最速下降法和牛顿法之间，具有以下特性：
1、对于n维二次型问题，能够在n步之内得到结果。
2、作为共轭方向法的典型代表，共轭梯度法不需要黑塞矩阵。
3、不需要存储n*n的矩阵，也不需要求逆。

10.2 基本的共轭方向算法

针对n维二次型函数的最小化：
f(x) = \frac{1}{2}x^TQx-x^Tb
其中，Q=Q^T>0, x \in R^n。
基本的共轭方向算法。给定初始点x^{(0)}和一组关于Q共轭的方向d^{(0)},d^{(1)},...,d^{(n-1)},迭代公式为：
g^{(k)}=\nabla f(x^{(k)}) = Qx^{(k)}-b\\ \alpha_k=-\frac{g^{(k)^T}d^{(k)}}{d^{(k)^T}Qd^{(k)}}\\ x^{(k+1)}=x^{(k)}+\alpha_kd^{(k)}

10.3 共轭梯度法

共轭梯度法不需要提前给定Q共轭方向，而是随着迭代不断产生Q共轭方向，在每次迭代中，利用上一个搜索方向和目标函数在当前迭代点的梯度向量之间的线性组合构造一个新方向，使其与前面已经产生的搜索方向组成Q共轭方向。这就是共轭梯度法这一名字的由来。


相关文章

  • 第十章 共轭方向法

    10.1引言 从效率上，共轭方向法位于最速下降法和牛顿法之间，具有以下特性：1、对于n维二次型问题，能够在n步之内...

  • 无约束最优化(二) 共轭方向法与共轭梯度法

    基本思想   之前文章最速下降法、Newton法、修正Newton法介绍的最速下降法存在锯齿现象，Newton法需...

  • 梯度优化算法

    梯度下降，共轭梯度法；牛顿法，拟牛顿法；信赖域方法，罚函数法。

  • 共轭梯度法&QR分解法

    # 要求使用共轭梯度法和QR分解法求解方程组 # 分析 ## 共轭梯度法输入：Ax=b想法：构造迭代关系$ x^k...

  • 共轭梯度法

    对于方程组，如果对称正定，我们考虑二次函数对于此函数，有一些性质: 如果是的解，那么 首先计算一下第一条性质：由梯...

  • [ML]《ML导论》十一：优化方法

    20181016 qzd 一、思维导图 二、知识碎片 1、共轭梯度下降法 1）简介在数值线性代数中，共轭梯度法是一...

  • 最优化方法

    常见最优化方法 1.梯度下降法 2.牛顿法 3.拟牛顿法 4.共轭梯度法

  • 共轭梯度法——CG法FR法和PRP法

    思路：取一组共轭方向，在每个方向上都进行一维精确线搜索，最多进行n次，就能得到最终的结果 这三个方法都是这个思路，...

  • 近世代数理论基础37：共轭元和共轭子域

    共轭元和共轭子域 共轭元 定义：设为伽罗瓦扩张,,,元称为在F上的共轭元 例： 1.由恒等映射及由所决定的同构组成...

  • 共轭空间和共轭算子

    对称是自然界中非常重要的几何性质。线性代数中可以看到对称矩阵有着很好的性质。 这一章研究： 内积空间（赋范空间）中...

网友评论

      本文标题：第十章 共轭方向法

      本文链接：https://www.haomeiwen.com/subject/hwsqqctx.html

      延伸阅读

      深度阅读

      • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

      栏目导航

      热点阅读

      关于我们|服务条款|联系我们|第十章 共轭方向法|投稿指南|网站地图|RSS订阅|排版工具|手机版

      提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

      Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

      备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

      本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

      所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！