针对神经网络本身的一些特性探讨研究,如防止过拟合(增大数据集、数据集扩增、dropout、regularization等),如何加速网络收缩(BN、ReLU、权值递减等),如何压缩网络(prunning、quantization、混合精度训练等)
[作者空间]
正则化的目的是稀疏神经网络中的权值,通过一些限制条件,训练使其中的一些不重要的权重为0,从而达到稀疏的目标,并且可...[作者空间]