美文网首页
NIN模型调参记录(12/14类)

NIN模型调参记录(12/14类)

作者: bokli_dw | 来源:发表于2020-03-21 19:38 被阅读0次

要求
分成应用分类(14类)和流量分类(12类)两个任务,按照运算量2\times10^5,1.2\times10^6,3.8\times10^7三个档次分别在两个任务上调试3个模型出来

1.基础知识回顾

w_conv1 = weight_variable(name='w_conv1', shape=[1, 3, 1, 32])
b_conv1 = bias_variable([32])

shape:shape为4维tensor,各参数含义:[width, height, channels, kernel_nums]
设input:[batch,length_in,width_in,in_channels_in]
w_conv1中shape是filter的shape:[filter_length,filter_width,channels_in,channels_out]
例如:

input.shape = [5,256,256,32] #5张256*256的图片,输入32
filter.shape = [3,3,32,64]  #3*3卷积核,输入32,输出64
 output.shape = [5,out_length,out_width,64] #卷积后的结果是5张(卷积后图片尺寸)图片,进入下一个卷积层的通道数为64

2.模型参数设置

通道数没有改变,改变卷积核的尺寸
输出结果会有影响吗?

NIN_1

NIN_14类调参结果

1.14类1500字节结果:32/64/128
改变strides,32/64/128结果:
(1, 1, 2, 128)
(1, 14)
Parsing Inputs...

  • FLOPs: 2.95\times10^6 (2953148) Trainable params: 6\times10^5(60078)
  • test:96.57% valid:96.39%


2.14类1500字节:16/32/64
(1, 1, 2, 64)
(1, 14)
Parsing Inputs...

  • FLOPs: 8.20\times10^5(819532); Trainable params:2.00\times10^4 (20030)
  • test:92.66% valid:94.45%


3.12类1500字节结果:32/64/128
改变strides,32/64/128结果:
(1, 1, 2, 128)
(1, 12)
Parsing Inputs...

  • FLOPs: 2.95\times10^5(2952250); Trainable params: 6.0\times10^4(59948)
  • valid_accuracy:97.02%

4.12类1500字节:16/32/64
(1, 1, 2, 128)
(1, 12)
Parsing Inputs...
======================End of Report==========================

  • FLOPs: 8.19\times10^5(818634); Trainable params:2.00\times10^4 (19900)

相关文章

  • NIN模型调参记录(12/14类)

    要求分成应用分类(14类)和流量分类(12类)两个任务,按照运算量,,三个档次分别在两个任务上调试3个模型出来 1...

  • 算法调参 - 交叉验证

     算法模型训练过程中,获取模型项目参数(比如λ、p)的最优值,这个过程叫做调参。  - 模型调参的方法:     ...

  • 模型调参

    贪心调参 (坐标下降) 所谓贪心算法是指,在对问题求解时,总是做出在当前看来是最好的选择。也就是说,不从整体最优上...

  • 模型调参

    相关模型 线性回归 决策树 决策树(Decision Tree)是一种非参数的有监督学习方法,它能够从一系列有特征...

  • 深度模型训练方法(二)

    在文章<深度模型训练方法>中提到,深度模型中拥有很多超参,模型的训练其实就是一个调超参的过程。而在调超参时,我们主...

  • XGboost 基线模型及部分参数优化

    1 模型原理及调参参考 调参:XGBoost参数调优完全指南原理:xgboost入门与实战(原理篇) 2 输出基线...

  • 数据挖掘竞赛入门之二手车交易价格预测

    Task2-EDATask3-特征工程Task4-模型调参Task5-模型融合

  • 机器学习:06. 调参的基本思想(乳腺癌数据)

    1. 机器学习中调参的基本思想 调参的目的就是为了提升模型的准确率。在机器学习中,我们用来衡量模型在未知数据上的准...

  • 模型调参工具GridSearchCV

    今天我们来讨论机器学习中一个非常重要的函数GridSearchCV,它是我们用来求解最佳参数组合的常用函数。例如:...

  • 2019-03-10记忆学习:一个case

    记忆学习整体流程 数据EDA 特征工程 模型建立,调参CV 模型融合(Ensembling) 都是基于特征集的,不...

网友评论

      本文标题:NIN模型调参记录(12/14类)

      本文链接:https://www.haomeiwen.com/subject/uthtrhtx.html