Classification——Linear Classifie

对图像进行分类识别任务，通过训练得到的线性模型来对新输入的图像进行分类操作。下面说明两种常用的线性分类器，对于计算得到的得分函数，根据损失函数计算方式的不同可分为：多类别SVM分类器和Softmax分类器（多项逻辑回归）

*为了避免过拟合，通常损失函数会加上正则化项：

1、多类别SVM分类器所采用的损失函数的计算方式为：hinge loss

2、Softmax分类器所采用的损失函数的计算方式为：cross-entropy loss

在得到损失函数的表示方式后，为了获得合适的参数W，下一步要进行的便是优化，通过改变参数的值来最小化损失函数，故优化的对象是损失函数。

常用的优化方式有：（1）随机搜索参数 （2）沿梯度下降的方向更新参数[基于所有的输入数据量N]（3）随机梯度下降【SGD】[基于一个batch块，即一部分数据量]

第三种方式是常用的优化方式。