在神经网络分类中，输出节点数量和激活函数选择取决于是二进制分类还是多类分类（3个及以上）。
对于二进制分类，神经网络由一个输出节点和sigmoid激活函数组成。训练数据的正确输出转化成激活函数的最大值和最小值（0和1）。
sigmoid函数是一个在生物学中常见的S型的函数，也成为S型生长曲线。由于其单增和反函数单增的性质，sigmoid函数被用作神经网络的阈值函数，将变量映射的0,1之间。
对于多类分类，神经网络的输出节点数和分类的数量是一致的。softmax函数用作激活函数。训练数据的正确输出用one-hot 编码方式转化到vector中。例如，假设5个输出分别是‘1’,'2','3','4','5'，那么经过编码转换后，得到的vector分别为,[1 0 0 0 0] [0 1 0 0 0] [0 0 1 0 0] [0 0 0 1 0] [0 0 0 0 1].
softmax函数在机器学习中广泛遇到，通俗来讲，就是把所有备胎拉出来评分，最后还归一化一下。言归正传，我们知道max，假设有两个数a和b，并且a>b，如果取max，那么直接取a，没有第二种可能性。但有的时候我不想这样，我希望分值大的那一项经常取到，分值小的那一项也偶尔可以取到，那么就可以用的softmax，数学原理看公式就知道。
网友评论