美文网首页
Classification——Linear Classifie

Classification——Linear Classifie

作者: sunsimple | 来源:发表于2017-11-29 17:23 被阅读0次

    对图像进行分类识别任务,通过训练得到的线性模型来对新输入的图像进行分类操作。下面说明两种常用的线性分类器,对于计算得到的得分函数,根据损失函数计算方式的不同可分为:多类别SVM分类器和Softmax分类器(多项逻辑回归)

    *为了避免过拟合,通常损失函数会加上正则化项:

    1、多类别SVM分类器所采用的损失函数的计算方式为:hinge loss

    2、Softmax分类器所采用的损失函数的计算方式为:cross-entropy loss


    在得到损失函数的表示方式后,为了获得合适的参数W,下一步要进行的便是优化,通过改变参数的值来最小化损失函数,故优化的对象是损失函数。

    常用的优化方式有:(1)随机搜索参数 (2)沿梯度下降的方向更新参数[基于所有的输入数据量N](3)随机梯度下降【SGD】[基于一个batch块,即一部分数据量]

    第三种方式是常用的优化方式。

    相关文章

      网友评论

          本文标题:Classification——Linear Classifie

          本文链接:https://www.haomeiwen.com/subject/fhfpbxtx.html