体验神经网络

题外话：达到目标的路径选择问题

目标：做一名优秀（了解汽车）的老司机。

1、科班出身的同志先学原理，了解汽车的发动机设计，驱动原理等诸多知识后，再上路积累驾驶经验。过程往往是0-优秀-老，而从零点到目标的曲线可能（也是自认为）是指数型的；

2、乡野痞夫因为文化底子差，好一点的去驾校学习，差一点的直接模仿各种司机前辈，上手就开。在开的过程中啥时候车子坏了，再去学发动机是咋回事，是不是缺水了，是不是以前的开车方法让车磨损的太厉害了等等。过程往往是0-老-优秀。其曲线复杂多变，姑且认为是线性的吧。

就这个目标“做一名优秀（了解汽车）的老司机”而言，没有孰好孰坏，适应自己的方式就是好的。

而在机器学习方面，我就是后者——乡野痞夫。但这丝毫不影响我当上帝的梦想。

体验神经网络：我们来当“上帝”

下面来到Google发布的Tensorflow游乐场，在这里我将其中的示例与西瓜书相结合来进行具体说明。这个过程中请自行体会当“上帝”的乐趣。

0、前提共识：

条件一：X1和X2对应西瓜的“颜色”和“形状”两个属性。

条件二：蓝色的点表示好瓜，橙色的点表示坏瓜。

条件三：现有的点表示已知的训练数据和测试数据，若对两种集合概念分不太清，姑且认为都是训练数据吧。

目标：随机出现一个新西瓜，判断该瓜是好瓜还是坏瓜。即：在平面中随意位置出现新点（颜色未知），判断出该点应该是橙色还是蓝色。

1、无隐含层网络，俗称一根筋（感知机）。

选择左下的数据模型。若只看X1属性（颜色）。这种情况几乎没有逻辑可言，训练过程就是不断微调垂直于x轴的白线位置。

注：涉及到游乐场操作的，建议尽可能关注达到目标的过程。

单一属性，无隐含层（感知机）

如果只有单一属性，无论X1还是X2，都会有几个点在白线附近。那么我们以两种属性作为输入，同时选中X1和X2，发现之前的分界线倾斜了，这也就解决了模棱两可的那些点。在这种数据条件下，当出现新点时，判断该点在直线的哪一侧就能得到结果。这都属于线性可分问题，在第三章（线性模型）中我们已经有所接触。

但是问题往往不是这么简单，如果选择右上方的数据集进行训练呢？此时只有X1和X2两种独立的特征作为输入，会发现脑袋（输出）里一片模糊，得不到清晰的结果。也就是说一旦问题不是线性可分的，那么“一根筋”的人就搞不定了。这时候就需要多想一层。

2、多层网络

要解决非线性可分问题，需要考虑使用多层功能神经元，即在输入输出层之外再加入中间层，这个中间层也叫隐含层。隐含层可以是一到多层，当隐含层很多时，这时的神经网络就是深度神经网络（城府极深）。先来看一种情况，有心眼，没文化。

有心眼，没文化

注意这种人想事情的过程！既然我是上帝，干脆对其进行教育升级，扩宽知识的广度，将每层的神经元扩展至4，看看结果。以上两种情况多试几次，就会发现一句名言“流氓不可怕，就怕流氓有文化”。

其实聪明如你，已经发现了在输入层有X1*X2这种属性，如果直接将其选择为参考条件，这个问题岂不是很容易。没错，初始属性的确越多越好，但问题在于“属性提取”这件事并不简单。比如给你猫和狗两种图片，提取什么样的属性呢？

带着这个问题我们来看在“游乐场”中最复杂的一种数据模型（右下）。类比为真实世界中要做一件“大事”。

要做大事，就要有准备充分，我毫不吝啬的把所有属性都提取了出来，然后自信满满的只用一层隐含层，含8个神经元。

资源丰富-非富即贵

干的漂亮！但不要高兴的太早，之前的问题呢？属性提取！我们老百姓没能力提取所有的属性，手上只有X1和X2两种信息怎么办。白手起家可以成大事吗？答案当然是YES！但是需要脑子足够好使，付出足够多的努力，掌握知识面足够广并且理解还要足够深。来吧，我们来创造这样的人！

2个特征，6层隐含层，每层8个神经元，开始计算。。。

白手起家-成就大事

大家有时间可以去Tensorflow游乐场玩一玩，自己体验神经网络的计算过程，也是可以将其发散为自己思考问题，甚至达到人生目标的过程。其中各种可调参数我就不一一列举了。

最后一点：神经网络，顾名思义！和人类大脑的工作过程相当吻合。只是机器计算的过程屏蔽掉了人性的弱点，遵循自己的铁律周而复始的运算。但是！机器也缺少了人性的优点，死气沉沉，毫无人性！

关于大脑工作过程和神经网络更详细的内容，请参考一起来读西瓜书：第五章 神经网络 。