Neural Networks

01.Model Representation1

• 用一个神经网络（Dendrite 树突，axon轴突）来表示一个假设函数。
  树突是输入，表示输入特性x1、x2.。。神经元表示计算单元，轴突表示假设函数的输出结果。

• 表示形式：
  左边是输入层，中间是隐藏层，假设函数是输出层，并且将隐藏层的a02​⋯an2​成为激活单元（activation units）。

其中，

第j层，激活单元i
控制从第j层到第j+1层的映射参数

• 其中计算公式如下：
  激活节点由3*4的参数矩阵计算所得，每一行的参数和一次输入结合以获得一个激活结点的值。假设函数又由另一个参数矩阵与激活结点相乘而得到。两层之间都有一个参数权重矩阵 Θ(j)。

  
  

• 权重矩阵的定义：
  假设输入层有3（Sj）个单元，隐藏层有3(S(j+1))个单元，则权重矩阵为S（j+1）*(Sj+1)维。其中多出来的一维来自，x0和theta0,被称为偏见结点（bias nodes.）

02.Model Representation II

• 用向量化的形式表示：

Application

01.and

• 用一个简单的例子来表示逻辑&&，比如让参数矩阵取值这样：

  
  

输出函数如下：

S函数

02.应用

• 把上述与或非结合到一起，在第一层和第二层之间采用与非

  
  

在第二层和第三层之前采用或

最后结合起来最终效果：

03.多类别分类（Multi-class classification）

• 为了将我们的分类数据识别成多种不同的分类，我们使我们的假设函数返回一个值向量的形式。比如要使识别结果是以下四种表示结果。

  
  
  

结果集的表示形式：