美文网首页
Jacobian矩阵和Hessian矩阵

Jacobian矩阵和Hessian矩阵

作者: TonnyYan | 来源:发表于2018-11-15 11:35 被阅读36次

对于多输入多输出系统的分析、优化，常常需要用到系统在当前状态下{x_t}（状态为向量）的一阶导和二阶导。多元变量的微分需要引入雅克比矩阵和海森矩阵。

Jacobian Matrix

函数F:{R_n} \to {R_m}表示一个n维向量空间到m维向量空间的映射，该函数由m个实函数组成{y_1}, \ldots {y_m}，如果这些实函数的偏导数都存在，则可以组成一个m行n列的矩阵：

{J_{F\left( {{x_1}, \ldots {x_n}} \right)}}=\left[ {\begin{array}{*{20}{c}} {\frac{{\partial {y_1}}}{{\partial {x_1}}}}& \ldots &{\frac{{\partial {y_1}}}{{\partial {x_n}}}} \\ \vdots & \ddots & \vdots \\ {\frac{{\partial {y_m}}}{{\partial {x_1}}}}& \ldots &{\frac{{\partial {y_m}}}{{\partial {x_n}}}} \end{array}} \right]
如果p是R_n中的一点, F在p点可微分, 那么在这一点的导数由J_F(p)给出。在此情况下，由F(p)描述的线性算子即接近点p的F的最优线性逼近，x逼近于p:
F({\bf{x}}) \approx F({\bf{p}}) + {J_F}({\bf{p}}) \cdot ({\bf{x}} – {\bf{p}})
雅可比矩阵的重要性在于它体现了一个可微方程与给定点的最优线性逼近。

Hessian Matrix

在数学中，海森矩阵(Hessian matrix或Hessian)是一个自变量为向量的实值函数的二阶偏导数组成的n*n方阵，此函数如下：
f\left( {{x_1}, \ldots ,{x_n}} \right)
如果f的所有二阶导数都存在，那么f的海森矩阵为：

A = \left[ {\begin{array}{*{20}{c}} {\frac{{{\partial ^2}f}}{{\partial {x_1}^2}}}& \ldots &{\frac{{{\partial ^2}f}}{{\partial {x_1}\partial {x_n}}}} \\ \vdots & \ddots & \vdots \\ {\frac{{{\partial ^2}f}}{{\partial {x_n}\partial {x_1}}}}& \ldots &{\frac{{{\partial ^2}f}}{{\partial {x_n}^2}}} \end{array}} \right]

当A为正定矩阵时，f有极小值；当A为负定矩阵时，f有极大值。海森矩阵被应用于牛顿法解决的大规模优化问题。

参考文献

Newton's method -- wikipedia
牛顿法和Hessian矩阵

相关文章

网友评论

      本文标题：Jacobian矩阵和Hessian矩阵

      本文链接：https://www.haomeiwen.com/subject/kmbefqtx.html

      延伸阅读

      深度阅读

      • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

      栏目导航

      热点阅读

      关于我们|服务条款|联系我们|Jacobian矩阵和Hessian矩阵|投稿指南|网站地图|RSS订阅|排版工具|手机版

      提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

      Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

      备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

      本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

      所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！