声明此文章的内容来之吴恩达老师深度学习公开课，仅用于课堂笔记
1、sigmoid现一般只用于二分法
image.png
2、tanh激活函数全面优于sigmoid函数
image.png
两种的共同缺点是当z变大时，斜率为0，导致学习速度很慢
1、ReLU函数 a=max(0,z)
image.png
2、泄漏ReLU函数 a=max(0.01,z)
image.png
优点当z>0时，两者的学习速度很快，斜率固定的
1、sigmoid现一般只用于二分法
image.png
2、tanh激活函数全面优于sigmoid函数
image.png
两种的共同缺点是当z变大时，斜率为0，导致学习速度很慢
1、ReLU函数 a=max(0,z)
image.png
2、泄漏ReLU函数 a=max(0.01,z)
image.png
优点当z>0时，两者的学习速度很快，斜率固定的
声明此文章的内容来之吴恩达老师深度学习公开课，仅用于课堂笔记 1、sigmoid现一般只用于二分法 2、tanh激...
什么是神经网络 就是使用了平滑的激活函数的多层感知机 激活函数 什么是激活函数呢？ 激活函数就是从输入值到对应输出...
为什么要使用激活函数？目前只介绍了sigmoid函数。下面多介绍几个激活函数。 sigmoid 现在已经不使用，除...
激活函数（Activation functions） 使用一个神经网络时，需要决定使用哪种激活函数用隐藏层上，哪种...
1.激活函数 使用一个神经网络时，需要决定使用哪种激活函数（Activation functions）用隐藏层上，...
一些常见的机器学习面试题（不定时更新）。 激活函数的作用？激活函数为神经网络提供了非线性。如果不使用激活函数，每一...
为什么使用激活函数 如果没有激活函数，神经网络就变成了线性模型，输出是输入的线性组合，使用一层与使用多层没有区别。...
激活函数种类激活函数作用 激活函数 深度学习常用激活函数之— Sigmoid & ReLU & Softmax 深...
分类问题 输出层使用激活函数 对应的损失函数 二分类 ...
激活函数。可以在__init__()里实例化nn.下的激活函数计算节点，也可以直接在forward()中使用nn....
本文标题：激活函数的使用C1W3L06
本文链接：https://www.haomeiwen.com/subject/afchqqtx.html
网友评论