[机器学习入门] 李弘毅机器学习笔记-17（Unsupervised Learning: Deep
Auto-encoder；无监督学习：深度自动编码器）

PDF	VIEDO

---

Auto-encoder

什么是-encoder呢?

这里写图片描述

NN Encoder & NN Decoder 要一起训练。

---

Starting from PCA

这里写图片描述

the auto-encoder can be deep

Deep Auto-encoder

这里写图片描述

PCA&Deep Auto-encoder 比较，明显后者效果更好。

这里写图片描述

当code为二维时，很明显看到Deep Auto-encoder使数字手写识别集分类地更好。

这里写图片描述

Auto-encoder – Text Retrieval

这里写图片描述

Bag-of-word方法将document用向量表示，每一个词都是平等的，无法考虑语义。
而Auto-encoder可以考虑语义。

这里写图片描述

Auto-encoder – Similar Image Search

这里写图片描述

但是这样并不能得到想要的结果，杰克逊和马蹄铁都被聚到一起。。。

这里写图片描述

所以，可以用Pre-training DNN。

---

Auto-encoder for CNN

这里写图片描述

CNN -Unpooling

这里写图片描述

CNN - Deconvolution

Actually, deconvolution is convolution.

这里写图片描述 这里写图片描述 这里写图片描述