美文网首页
2020-02-19

2020-02-19

作者: 暗物质与小行星 | 来源:发表于2020-02-19 20:14 被阅读0次

LeNet: 在大的真实数据集上的表现并不尽如⼈意。

1.神经网络计算复杂。

2.还没有⼤量深⼊研究参数初始化和⾮凸优化算法等诸多领域。

机器学习的特征提取:手工定义的特征提取函数

神经网络的特征提取:通过学习得到数据的多级表征,并逐级表⽰越来越抽象的概念或模式。

神经网络发展的限制:数据、硬件

AlexNet

首次证明了学习到的特征可以超越⼿⼯设计的特征,从而⼀举打破计算机视觉研究的前状。

特征:

8层变换,其中有5层卷积和2层全连接隐藏层,以及1个全连接输出层。

将sigmoid激活函数改成了更加简单的ReLU激活函数。

用Dropout来控制全连接层的模型复杂度。

引入数据增强,如翻转、裁剪和颜色变化,从而进一步扩大数据集来缓解过拟合

相关文章

网友评论

      本文标题:2020-02-19

      本文链接:https://www.haomeiwen.com/subject/yirzfhtx.html