美文网首页
2019-04-28 Day7 计算图&链式法则&反向传播

2019-04-28 Day7 计算图&链式法则&反向传播

作者: BA蓬莱传说 | 来源:发表于2019-04-28 17:56 被阅读0次

计算图&链式法则&反向传播

1.计算图

数据结构中的图结构，用点表示数据节点，线表示节点之间的关系。
工程项目管理中的双代号网络计划图，用节点表示工序，箭线表示先后次序，线上权值表示时间或资金成本。
而计算图则是用节点表示计算操作，在箭线上传递局部计算的值，从这种意义上看，神经网络即可抽象为一个计算图结构。

2.链式法则

\frac{\partial{y}}{\partial{x}} = \frac{\partial{y}}{\partial{t}} \frac{\partial{t}}{\partial{x}}

3.反向传播

3.1 加法节点

以z = x + y为例：
z = x + y
\frac{\partial{z}}{\partial{x}} = \frac{\partial{z}}{\partial{y}} = 1
因此流过加法节点时只乘以1

3.2 乘法节点

以z = xy为例：
z = xy
\frac{\partial{z}}{\partial{x}} = y
\frac{\partial{z}}{\partial{y}} = x

相关文章

网友评论

      本文标题：2019-04-28 Day7 计算图&链式法则&反向传播

      本文链接：https://www.haomeiwen.com/subject/zuyjnqtx.html

      延伸阅读

      深度阅读

      • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

      栏目导航

      热点阅读

      关于我们|服务条款|联系我们|2019-04-28 Day7 计算图&链式法则&反向传播|投稿指南|网站地图|RSS订阅|排版工具|手机版

      提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

      Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

      备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

      本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

      所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！