美文网首页
全连接层与1*1卷积的关系

全连接层与1*1卷积的关系

作者: flyingmoth | 来源:发表于2017-08-11 08:46 被阅读0次

    network in network 这篇文章提出可以用1*1的卷积层代替全连接层,一开始很懵逼。后来看到一篇博客解释很清楚。
    原文 http://blog.csdn.net/YiLiang_/article/details/60468530

    理解全连接层:
    连接层实际就是卷积核大小为上层特征大小的卷积运算,卷积后的结果为一个节点,就对应全连接层的一个点。(理解)
    假设最后一个卷积层的输出为7×7×512,连接此卷积层的全连接层为1×1×4096。
    如果将这个全连接层转化为卷积层:
    1.共有4096组滤波器
    2.每组滤波器含有512个卷积核
    3.每个卷积核的大小为7×7
    4.则输出为1×1×4096
    由于每个滤波核的大小和上一层的feature map大小一样,保证了转换后的卷积层的运算结果和全连接层是一样的
    若后面再连接一个1×1×4096全连接层。则其对应的转换后的卷积层的参数为:
    1.共有4096组滤波器
    2.每组滤波器含有4096个卷积核
    3.每个卷积核的大小为1×1
    4.则输出为1×1×4096

    相关文章

      网友评论

          本文标题:全连接层与1*1卷积的关系

          本文链接:https://www.haomeiwen.com/subject/obflrxtx.html