调参狗好烦

作者: 法师漂流 | 来源:发表于2015-10-26 01:38 被阅读343次

    写在前面:深度学习调参真是玄学。


    测试集正确率很高但是训练集正确率不高说明过拟合。


    过拟合有两种改进方法,一种是减小网络复杂度,一种是调整测试集。


    测试集加噪幅度不够,测试集加噪数量不够,都有可能出问题,因此我要从这两个方向下手增加样本。


    加噪可以选择高斯白噪声或var库,先测试白噪声,数量增加试一波,功率增加试一波。


    但还是取得了一些进展,在调整了learning rate和迭代算法之后,可以在训练集上过拟合了(99%)之前一直怀疑程序有问题,现在看来是设置过于保守,收敛太慢。也可能是之前没加噪,总之我也说不清,都有可能吧。


    等今晚网络迭代完看下结果。


    先这样吧,睡个好觉。

    相关文章

      网友评论

      • 法师漂流:由于数据的特殊性,以上方法都不行。

      本文标题:调参狗好烦

      本文链接:https://www.haomeiwen.com/subject/izhxhttx.html