4.高斯牛顿方程

作者: 光能蜗牛 | 来源:发表于2022-09-23 20:10 被阅读0次

4.高斯牛顿方程
6.g2o
5.高斯牛顿方程的具体例子
解方程
【线性代数学习笔记（一）】矩阵表示法和矩阵乘法规则是怎么来的？
改变世界的方程
解码生命的学者们
牛顿光学&波动方程
局部搜索之牛顿法
数值分析知识补漏

相较于第2节的直接对函数进行二阶泰勒展开，然后求函数一阶导为零来进行迭代求极小值的方法

高斯牛顿法采用的是，只对函数进行一阶泰勒展开，然后对一阶泰勒展开进行平方，求其平方的一阶导为0来进行迭代

上面这段话翻译成公式就是
写出函数的一阶泰勒展开式
$F(X^{(K+1)})=F(X^{(K)})+J(X^{(k)})^T\Delta X$

求其最小二乘 $\frac{1}{2}||F(X^{(K)})+J(X^{(k)})^T\Delta X||^2$

求全微分
$\frac{\partial (\frac{1}{2}||F(X^{(K)})+J(X^{(k)})^T\Delta X||^2)}{\partial \Delta X}$

$=J(X^{(k)})\Big(F(X^{(K)})+J(X^{(k)})^T\Delta X\Big)$
$=J(X^{(k)})(F(X^{(K)})+J(X^{(k)})J(X^{(k)})^T\Delta X$

令 $J(X^{(k)})(F(X^{(K)})+J(X^{(k)})J(X^{(k)})^T\Delta X=0$

$\Rightarrow \Delta X=-(J(X^{(k)}).J(X^{(k)})^T)^{-1}J(X^{(k)})F(X^{(K)}).$

习惯上会让
$H_0(X^{(k)})=J(X^{(k)}).J(X^{(k)})^T$
$g(X^{(k)})=-J(X^{(k)})F(X^{(K)})$

于是 $\Delta X=H_0(X^{(k)})^{-1}g(X^{(k)})$

我们比较一下第二节的二阶泰勒法计算极小值
$\Delta X=-H(X^{(0)})^{-1}J(X^{(0)})$
这里相当于用一阶的雅可比矩阵对海瑟矩阵进行了近似，相对于使用来说，减少了计算量

4.高斯牛顿方程
相较于第2节的直接对函数进行二阶泰勒展开，然后求函数一阶导为零来进行迭代求极小值的方法高斯牛顿法采用的是，只对函...
6.g2o
g2o全称 General Graphic Optimization 通用图优化的缩写第五节讲了手撕高斯牛顿方程...
5.高斯牛顿方程的具体例子
求解满足如下方程的曲线其中为待求曲线参数，为引入的高斯分布噪声，满足,假设有对关于的观测点，要通过这些点来推测具...
解方程
复习一下解方程 0X00 解线性方程用「高斯消元法」解线性方程面试题 16.03. 交点 883. 高斯消元解...
【线性代数学习笔记（一）】矩阵表示法和矩阵乘法规则是怎么来的？
目录求解线性方程组：高斯消元法简化线性方程组的表示——得到原始的矩阵定义用矩阵的表示方法表示高斯消元法解线性方程...
改变世界的方程
1月27日 |《改变世界的方程》牛顿、爱因斯坦和相对论，帮你刷新世界观。书名：《改变世界的方程：牛顿、爱因斯坦...
解码生命的学者们
先说说这位有着多位情人的浪漫科学家薛定谔，他的薛定谔方程，在量子力学中的地位就像牛顿方程在牛顿力学中的地位。而他更...
牛顿光学&波动方程
2016.9.13—9.14
局部搜索之牛顿法
除了前面说的梯度下降法，牛顿法也是机器学习中用的比较多的一种优化算法。牛顿法求方程解牛顿法又称为牛顿-拉弗森方...
数值分析知识补漏
1、方程组（高斯消元，LU分解，AP=LU分解，误差问题，共轭梯度） 2、最小二乘（模型，正规方程，不相容，QR分...

4.高斯牛顿方程

相关文章

4.高斯牛顿方程

6.g2o

5.高斯牛顿方程的具体例子

解方程

【线性代数学习笔记（一）】矩阵表示法和矩阵乘法规则是怎么来的？

改变世界的方程

解码生命的学者们

牛顿光学&波动方程

局部搜索之牛顿法

数值分析知识补漏

网友评论

延伸阅读

深度阅读

栏目导航

热点阅读