美文网首页
神经网络为什么要用激活函数1?(转)

神经网络为什么要用激活函数1?(转)

作者: 起个名字真的好难啊哈哈 | 来源:发表于2018-01-08 09:24 被阅读0次

1. 什么是激活函数

如下图,在神经元中,输入的 inputs 通过加权,求和后,还被作用了一个函数,这个函数就是激活函数 Activation Function。

2. 为什么要用

如果不用激励函数,每一层输出都是上层输入的线性函数,无论神经网络有多少层,输出都是输入的线性组合。

如果使用的话,激活函数给神经元引入了非线性因素,使得神经网络可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中。

作者:不会停的蜗牛

链接:https://www.jianshu.com/p/22d9720dbf1a

來源:简书

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

相关文章

  • 神经网络为什么要用激活函数1?(转)

    1. 什么是激活函数 如下图,在神经元中,输入的 inputs 通过加权,求和后,还被作用了一个函数,这个函数就是...

  • 神经网络的一点点理解

    1、为什么要用连续的激活函数,而不是0、1那种二分布的? 答:代价函数要平滑 2、什么是神经网络? 答: a)以识...

  • 神经网络为什么要用激活函数2?(转)

    作者:颜沁睿 链接:https://www.zhihu.com/question/22334626/answer/...

  • mxnet:神经网络的激活函数

    1.为什么激活函数必须为非线性? 为保证非线性,激活函数必须为非线性函数.要让你的神经网络能够计算出有趣的函数,你...

  • 机器学习中常见函数

    1、激活函数 常用于神经网络,激活函数增加了神经网络模型的非线性特征 2、损失函数 机器学习过程中中,我们期望样本...

  • 非线性激活函数

    1 为什么需要非线性激活函数? 如果使用线性激活函数,那么这个模型的输出不过是你输入特征x的线性组合。神经网络只是...

  • 3. 深度学习- 常用的激活函数

    在学习神经网络中,我们会常常碰到激活函数这个名词。那么什么是激活函数?激活函数激活的是什么?在神经网络中,有什么用...

  • 机器学习笔记(五)——激活函数

    激活函数区别和作用 本质:    激活函数是来向神经网络中引入非线性因素,通过激活函数,神经网络就可以拟合各种曲线...

  • 激活函数与损失函数

    激活函数 1、作用: 线性模型的表达能力不够,激活函数增加神经网络模型的非线性,提升神经网络模型表达能力(数据往往...

  • 深度学习基础

    深度学习 一、神经网络基础 1.感知机 2.神经网络 激活函数 ①sigmoid 函数 ②tanh函数(双曲正切函...

网友评论

      本文标题:神经网络为什么要用激活函数1?(转)

      本文链接:https://www.haomeiwen.com/subject/bymvnxtx.html