美文网首页我的大学
关于梯度的一点思考

关于梯度的一点思考

作者: Raow1 | 来源:发表于2020-08-18 23:02 被阅读0次

*今天看高数书的时候看到了关于梯度的内容，思考过程中有了些许小想法，特记录如下。其准确性可能有待商榷，仅供参考。

**关于梯度的定义以及计算方法等内容在此不在赘述，有需要的请自行查阅书籍或搜索。

我们以比较简单的二元函数f(x,y)=x+y进行举例说明。

经过简单的计算我们知道其梯度，恒为\nabla f(x,y)=\vec{i}+\vec{j} 。所以沿此方向的方向导数也恒为\frac{\partial f}{\partial l}=\vert {\nabla f(x,y)} \vert =\sqrt{2} 。

紧接着，我们将上述二元函数看作三维空间中的一个平面F(x,y,f(x,y))=0，我们令z=f(x,y)，即F(x,y,f(x,y))=F(x,y,z)=x+y-z=0。其法向量为\vec{n}=(F_{x}, F_{y},F_{z})=(1,1,-1) 。

x+y-z=0的图像 投影到xOy平面后的等值线图

我们能够发现，法向量投影到xOy平面后的向量与梯度相同。

当我们将二元函数推广到其他形式时候，也能发现，二元函数在某一点的梯度，与其对应的三维空间中的面在此点的法向量在xOy平面的投影相同。

***可惜我花了好久都没有想通这样的几何学意义是什么。（为什么沿着法向量在xOy平面的方向，向上/z轴的变化是最快的。）后面有时间再思考的试试吧。

相关文章

  • 关于梯度的一点思考

    *今天看高数书的时候看到了关于梯度的内容，思考过程中有了些许小想法，特记录如下。其准确性可能有待商榷，仅供参考。 ...

  • 1.3 神经网络入门-梯度下降与Transorflow基础

    1.3 梯度下降与Transorflow基础 关于梯度下降的解可以参考这篇文章：https://www.jians...

  • 线性回归-梯度下降法

    梯度下降法求解最小二乘 1、批量梯度下降法 （1）构造损失函数 （2）求梯度对J(theta)关于theta求偏导...

  • 关于梯度下降算法的一点看法

    前言 之前一直对梯度下降算法的概念比较模糊，今天突然有了一点个人感悟，遂记录下来，欢迎批评指正。 关键点 梯度下降...

  • 梯度检验

    为何进行梯度检验？ 神经网络算法使用反向传播计算目标函数关于每个参数的梯度，可以看做解析梯度。由于计算过程中涉及到...

  • 2019-04-10

    共轭梯度 参考 主要参考这篇文章，非常推荐查看，文章最后还有个关于共轭梯度的图Conjugate gradient...

  • 学习笔记：两种梯度下降法的思考

    在看梯度下降法的时候最初还真没看明白两种梯度下降法的区别，于是昨天散步的时候认真的思考了一下。 两种梯度下降法分别...

  • 关于梯度下降

    该篇文章的代码和思路参考了https://www.cnblogs.com/noluye/p/11108513.ht...

  • 梯度下降算法的理解

    序 梯度下降算法(Gradient Descent)是机器学习中最常用的算法之一，从网上看到的关于梯度下降算法的介...

  • “梯度”和“梯度下降算法”

    文章转自：https://www.jianshu.com/p/c7e642877b0e说明：本文关于梯度和梯度下降...

网友评论

    本文标题：关于梯度的一点思考

    本文链接：https://www.haomeiwen.com/subject/skrkjktx.html

    延伸阅读

    深度阅读

    • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

    栏目导航

    热点阅读

    我的大学

    关于我们|服务条款|联系我们|关于梯度的一点思考|投稿指南|网站地图|RSS订阅|排版工具|手机版

    提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

    Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

    备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

    本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

    所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！