美文网首页
层叠自编码

层叠自编码

作者: 陈继科 | 来源:发表于2017-01-10 16:06 被阅读22次

对于多层稀疏自编码的层叠,我们这里也可以采用逐层训练的方法。
首先和往常一样训练第一层参数

Paste_Image.png

然后固定第一层参数不动(freeze),加一层稀疏自编码,训练第二层稀疏自编码参数。这其实就是把原始输入通过第一层得到特征,利用这个特征再训练一个“一层自编码”。

Paste_Image.png

重复这个过程,根据需要加足够的层。然后最后就是我们提取的高阶特征,我们利用这个特征训练分类。

Paste_Image.png

拼起来就是我们最终需要的网络。

Paste_Image.png

我们其实还可以对拼好的网络继续进行整体梯度下降学习(利用BP),也即同时调整所有的参数。

相关文章

  • 层叠自编码

    对于多层稀疏自编码的层叠,我们这里也可以采用逐层训练的方法。首先和往常一样训练第一层参数 然后固定第一层参数不动(...

  • 机器学习笔记:

    OneHotEncoder独热编码和 LabelEncoder标签编码 转自https://www.cnblogs...

  • 层叠

  • 层叠

    我们来思考一个问题:如果在html文件中对于同一个元素可以有多个css样式存在并且这多个css样式具有相同权重值怎...

  • 层叠

    坐着? 还是躺着? 手中10寸屏幕, 麻木了谁的眼睛? 看痴了谁的真心? 痛吗? 眼睛痛还是心痛? 兜兜转转, 木...

  • 层叠

  • 防御 XSS攻击

    浅谈XSS—字符编码和浏览器解析原理 XSS简介 XSS攻击全称跨站脚本攻击,是为不和层叠样式表(Cascadin...

  • QR码编码原理二(编码)

    转自:QR码编码原理二(编码) 编码就是把常见的数字、字符等转换成QR码的方法。说具体的编码之前,先说一下QR码的...

  • 玩转图片Base64编码

    转自:玩转图片Base64编码 base64编码网址: http://www.pjhome.net/web/htm...

  • Swift 编码风格指南

    本文转自:Swift 编码风格指南 | www.samirchen.com 背景 本文主要是对以下几个编码规范的整...

网友评论

      本文标题:层叠自编码

      本文链接:https://www.haomeiwen.com/subject/fmnkbttx.html