美文网首页
Logistic & Softmax

Logistic & Softmax

作者: 苟且偷生小屁屁 | 来源:发表于2017-09-28 19:04 被阅读0次

Logistic 回归

在Logistic回归中比较重要的有两个公式,一个是阶跃函数:

gif.gif

另一个是对应的损失函数:

gif.gif

对于确定回归系数这样的问题

gif.gif

不存在多峰,也就是说不存在除最优值之外的局部最优值。其次,这样的问题是可求导的,所以基于梯度的方法是可以用来求解回归系数的问题.的。

Sigmoid函数的公式为:

gif.gif 20140512105006234.jpg

最终,Logistic回归需要求出的是两个概率:

图片.png

Logistic回归的推广——Softmax Regression

在Logistic回归需要求解的是两个概率:

图片.png

而在Softmax Regression中将不是两个概率,而是表示的是分类的个数。我们需要求出以下的概率值:

图片.png

此时的损失函数为:

图片.png

其中I是一个指示性函数,意思是大括号里的值为真时,该函数的结果为1,否则为0。

相关文章

  • logistic回归 Softmax回归

    logistic回归解决二分类问题 softmax回归解决多分类问题Softmax回归模型是logistic回归模...

  • Logistic & Softmax

    Logistic 回归 在Logistic回归中比较重要的有两个公式,一个是阶跃函数: 另一个是对应的损失函数: ...

  • tf.nn.softmax

    关于softmax的详细说明,请看Softmax。 通过Softmax回归,将logistic的预测二分类的概率的...

  • 20170829

    20170829 1.tensorflow logistic regression tf.nn.softmax: ...

  • 深度学习一

    Logistic Regression with Softmax and Cross-Entropy 分布向量(D...

  • Softmax 回归

    1 简述 Logistic回归模型是 softmax回归模型 k=2 的特例,softmax回归就是一般线性回归的...

  • 补充知识-1-softmax回归

    softmax逻辑回归模型是logistic回归模型在多分类问题上的推广。

  • Udacity.深度学习.从机器学习到深度学习.2017-11-

    1. 练习-softmax模型 测试样例 2. 交叉熵 Multinomial logistic classifi...

  • 线性回归与分类

    回顾线性回归,logistic回归和softmax。 LMS 先构造线性函数进行拟合: 定义cost functi...

  • logistic与softmax分类

    待处理统计学习方法:罗杰斯特回归及Tensorflow入门 参考阅读深度学习笔记(一):logistic分类Log...

网友评论

      本文标题:Logistic & Softmax

      本文链接:https://www.haomeiwen.com/subject/xakvextx.html