美文网首页人工智能
AI常用激活函数分析5,Tanh函数

AI常用激活函数分析5,Tanh函数

作者: LabVIEW_Python | 来源:发表于2018-05-17 10:22 被阅读14次

在分类任务中,双曲正切函数(Tanh)逐渐取代 Sigmoid 函数作为标准的激活函数,其具有很多神经网络所钟爱的特征。它是完全可微分的,反对称,对称中心在原点。为了解决学习缓慢和/或梯度消失问题,可以使用这个函数的更加平缓的变体(log-log、softsign、symmetrical sigmoid 等等)。

Andrew Ng推荐:tanh非常优秀,几乎适用于所有场合

相关文章

网友评论

    本文标题:AI常用激活函数分析5,Tanh函数

    本文链接:https://www.haomeiwen.com/subject/fyavdftx.html