大脑的学习和模拟

小明是一名小学生，他正在学习简单的英语，今天学习到了Easy这个词。通过老师的讲解和书本上的知识，小明知道了Easy对应的汉语是"容易。的意思，他将整个词的形状和翻译都记录下来。

小明在黑板上写下"容易"一"Easy "。老师很高兴，给了他一个勾。

请大家注意，这里小明写出的easy和昨天学到的。Easy。有偏差，或者叫谟差。'就是首字母变成小写了!小明将学习到的Easy。记下来，再次反馈出来时，没有严格地区分首字母大小写，写出了。easy。这个单词。严格意义上讲，喁和今天的。Easy。单词是有差异的(首字母大小写)。

小明昨天学习的过程就是编码过程，今天将整个单词还原出来就是解码过倒虽然解码的结果。easy。和昨天学习的。Easy。有误差，少了首字母大写，叫

种误差是可以接受的，所以这就是自动编码器(AutoEncoder)的思想!

从生物学大脑角度考虑，学习和重构就像编码和解码一样。

我们把小明学习的过程抽象下假设我们有一个系统s,它有n层(S1，S2……）如果它的输入是i,输出是0，形象地表示为:i泳sl冰岛泳···冰风沐0,

口等于输入I,即输入I经过这个系统变化之后没有任何的信息损失，保持了不变1

这意味着输入I经过每二层么都没有任何的信息损失，既在任何一层S1都保持不变，原有信息(即输入I)的另外一种表示。假设我们有一堆输入I(如一堆图像或者文本)，我们设计了一个系统s(有n层)，我们通过调整系统中的参数输出仍然是输入I，那么我们就可以自动地获取得到输入I的一系列层。

第二天，老师开始检查小明的学习成果J。老师很高兴，给了他一个对钩。