美文网首页
2018-02-16 神经网络基础(一)

2018-02-16 神经网络基础(一)

作者: 瑶瑶_2930 | 来源:发表于2018-02-16 20:53 被阅读0次

    二分分类(Binary Classfication)

    • 用途:结果是离散值,如0和1
    • 例子:输入图像(x),判断是否为猫
      • 图像是如何储存在计算机里的?
        - RGB(red,green,blue)分别对应三个矩阵,矩阵大小同像素
        - 色彩亮度值组成特征向量,如图
        屏幕快照 2018-02-16 下午8.34.47.png
        屏幕快照 2018-02-16 下午8.34.56.png
    • 标记(Notation)
      • (x,y),x是n维列向量,y为0或1
      • m->训练集
      • X,Y矩阵,按列分块,分块矩阵的列矩阵分别为x和y。如图:


        屏幕快照 2018-02-16 下午8.38.20.png

    logistic回归

    • 定义:当输出为0或1时,一种监督学习算法
    • 例子: 屏幕快照 2018-02-16 下午8.40.00.png

    图像介于0到1之间

    • 参数解释
      • x:输入特征向量
      • y:训练标记
      • w:参数,相当于斜率之类,权重
      • b:参数,相当于起始值

    logistic 回归损失函数

    • 损失函数(Loss function)
      衡量单个训练中预测的y值与实际值的差值
      - 说明
      - MSE(mean square error)均方差损失函数
      屏幕快照 2018-02-16 下午8.45.33.png

    但为非凸性,有很多个局部最优解,故舍弃
    - 另一种损失函数

    屏幕快照 2018-02-16 下午8.45.33.png

    该函数只有一个全局最优解,并且在图中两种特殊情况下,当y趋近于0或1时,可以使函数值趋近0.

    • 成本函数(Cost function)
      整个训练集损失函数的平均值
      屏幕快照 2018-02-16 下午8.48.30.png

    梯度下降法(Gradient Descent)

    • 迭代如下更新参数的方程,直到使斜率接近0

      屏幕快照 2018-02-16 下午8.53.14.png
    • 参数,符号解释:

      • := 更新值
      • a ->学习率
      • dw,db ->导数或偏导

    导数

    正在学微积分的自己就飘过~

    相关文章

      网友评论

          本文标题:2018-02-16 神经网络基础(一)

          本文链接:https://www.haomeiwen.com/subject/dhwptftx.html