美文网首页
2017-5-25-自动编码机

2017-5-25-自动编码机

作者: Elitack | 来源:发表于2017-05-25 11:10 被阅读0次

这几天都在忙着码一个自动编码机,
其实代码也比较简单,但是调研的比较多.
因为发现在tensorflow当中其实并不是很好传递参数.
比如说我在训练一个自动编码机的过程中,想实现weights tying,
比如一个四层的网络,我想令W4 = W1.T(转置), W3=W2.T
这种直接的改变很难通过固有的库去实现.

hands on machine learning with scikit-learn and tensorflow这本书中是这么写的:
*unfortunately, implementing tied weights in tensorflow using fully_connected function() is a bit cunbersome: it's actually easier to just define the layers manually. *

意思是我们只能手写一些例如激活函数之类的东西,从底层实现了.

实际上我训练完之后,返回的也只能是一个字典:
weights:{'weights1' : xxx, 'weights2': xxx....}
biases:{'biases1': xxx, 'biases2': xxx....}

具体如果要实现把自动编码机嵌入到代码的全连接层中的话,可能还是得如书中所说: define the layers manually...

具体详情请参考machine learning 的文集.

相关文章

  • 2017-5-25-自动编码机

    这几天都在忙着码一个自动编码机,其实代码也比较简单,但是调研的比较多.因为发现在tensorflow当中其实并不是...

  • 从信息熵到自动编码机:(1)理解信息熵

    (使用 app 无法显示公式,请用网页浏览) 关键词:信息熵,自动编码机,Shannon Entropy, inf...

  • Coding the World

    编码解码器 Denoising AutoEncoders降噪自动编码器 降噪自动编码器DA是在自动编码器的基础上,...

  • Series 1 自动编码机系列

    前言 好久没有写博文装逼了,今日必须要装一发,请各位系好安全带,老司机即将开车。闲话不多说,这个是一个关于深度学习...

  • 周志华 AutoEncoder by forest

    正文 国内大神周志华即前段时间发表的媲美(号称)深度神经网络的深度森林之后又发表了用森林实现自动编码器。作为国内机...

  • 花式解释AutoEncoder与VAE

    什么是自动编码器 自动编码器(AutoEncoder)最开始作为一种数据的压缩方法,其特点有: 1)跟数据相关程度...

  • 2020机器学习自编码器(autoencoder)(中)

    卷积自编码 输入是表示图像的数据,因此使用卷积自动编码器是不错选择,因为卷积适合处理空间上数据。卷积自动编码器就是...

  • Chapter -15 Exercise(1-7)

    自动编码器的主要任务是什么? 特征提取 无人监督的预训练 维度降低 生成模型 异常检测(自动编码器通常不利于重建异...

  • 深度学习中的自动编码器:TensorFlow示例

    什么是自动编码器?   自动编码器是重建输入的绝佳工具。简单来说,机器就是一个图像,可以生成一个密切相关的图片。这...

  • 代码详解:一文读懂自动编码器的前世今生

    全文共5718字,预计学习时长20分钟或更长 变分自动编码器(VAE)可以说是最实用的自动编码器,但是在讨论VAE...

网友评论

      本文标题:2017-5-25-自动编码机

      本文链接:https://www.haomeiwen.com/subject/vawaxxtx.html