在看深度学习资料,居然也有拉格朗日算子,再仔细学习下他的推导。
那个landa的引入关键点依据是:拉格朗日算子极值点的梯度向量是平行的。
最后就最小值还是回归到梯度下降方法。同样会涉及到鞍点/凸优化问题。
如下blog写的不错,备份下。
https://blog.csdn.net/zhouyelihua/article/details/6784073
https://blog.csdn.net/qq_39521554/article/details/78896110
https://www.sohu.com/a/192593253_651893
https://blog.csdn.net/kebu12345678/article/details/54926287
网友评论