定义loss function
利用全部训练样本计算loss function,（沿θj最陡方向）更新一个参数θj
化简更新θj的式子批量梯度下降BGD：迭代指定次数次；see all samples
BGD
随机梯度下降（stochastic gradient descent）：一次只看一个sample
SGD
在样本数目很多时SGD更快
网友评论