作者：Roberto Lopez
神经网络是人工智能中最热门的话题之一，它是基于大脑结构的计算模型，是信息加工结构，具有从数据中进行学习的能力。神经网络有许多类型，最重要的是多层感知器，其中最典型的神经元模型称为感知器，本文中我们将从数学角度解读这个模型。
1
感知器组成
神经网络最主要的组成是神经元，感知器是最常用的模型。以下为感知器图解：
2
3
神经元参数
4
组合函数
5
激活函数
激活函数根据组合值产生输出。实际应用涉及到很多有用的激活函数，三种最常用的是逻辑函数、双曲正切函数和线性函数，其他不可导的函数（如阈值函数）这里暂且不提。
逻辑函数形状为s型，单调递增，平衡在线性和非线性之间，值域为(0,1)，对于分类应用是很好的性质，因为输出可以根据概率被解释。
6
双曲正切函数也是在神经网络领域中常用的一个s型函数，类似逻辑函数。主要的不同点是值域 (-1,1) ，在近似应用中很实用。
8
组合值 c=1.55 ，因为选择的是双曲正切函数，该神经元的激活结果为
9
输出函数
输出计算在感知器中最为重要。给定一系列输入信号，计算出输出信号。以下为信息在感知器中的处理流程：
10
神经元由输入到输出的最终表现为：
11
可见，输出函数合并了组合值和激活函数。
结论
神经元是生物神经系统中单个神经元行为的数学模型。单个的神经元可以解决很多简单的学习任务，但是当它们在网络结构中相互连接时，会显现出神经网络的能力。人工神经网络的结构与神经元的数量及其之间的连接有关。下图为前馈神经网络结构。
12
虽然这幅图展示了感知器的运行方式，但仍然有其他不同特征的神经元模型用于不同目的，其中有规模神经元、主成分神经元、非规模神经元、概率神经元。上图中，规模神经元为黄色，非规模神经元为红色。
网友评论