---

预告：

1.回归问题（分类问题）以及回归问题的优化目标函数（cost function)
2.梯度下降和导数
3.计算图
4.回归问题的梯度下降
5.矩阵化Vectorization
6.Python,Numpy的一些知识点

---

1.回归问题（分类问题）以及回归问题的优化目标函数（cost function)

Screen Shot 2017-12-03 at 11.30.52 AM.png Screen Shot 2017-12-03 at 11.38.16 AM.png Screen Shot 2017-12-03 at 11.47.22 AM.png

不管是机器学习还是深度学习，在我们学习到客观问题潜在的模型（一堆因子决定另一堆因子的模型）时，就像人类的学习需要有一个学习目标，减小cost function就是机器（深度）学习的学习目标。选择什么样的cost function决定的具体目标。就像我小时候的目标是“我要成为一个优秀的人”是一个抽象的大目标，而具体目标是“提高考试分数”是一样的道理。

为了数学省能够处理，这里没有选择平方差和来做cost function，而选用了另一个方程。最小化这个方程的值能够很好地贴合“使Y的计算值和实际值尽可能接近”的学习目标。 Screen Shot 2017-12-03 at 11.51.00 AM.png

2.梯度下降，导数 Screen Shot 2017-12-03 at 12.05.31 PM.png

Screen Shot 2017-12-03 at 12.07.25 PM.png
Screen Shot 2017-12-03 at 12.08.49 PM.png

3.计算图 Screen Shot 2017-12-03 at 12.15.00 PM.png

Screen Shot 2017-12-03 at 12.16.04 PM.png Screen Shot 2017-12-03 at 12.16.42 PM.png

4.回归问题的梯度下降

Screen Shot 2017-12-03 at 12.57.58 PM.png Screen Shot 2017-12-03 at 12.58.41 PM.png Screen Shot 2017-12-03 at 12.59.09 PM.png
和的导数，导数的和，是一样的。 Screen Shot 2017-12-03 at 12.59.26 PM.png

5.矩阵化Vectorization

Screen Shot 2017-12-03 at 1.27.56 PM.png Screen Shot 2017-12-03 at 1.28.32 PM.png Screen Shot 2017-12-03 at 1.28.48 PM.png Screen Shot 2017-12-03 at 1.29.29 PM.png Screen Shot 2017-12-03 at 1.30.24 PM.png Screen Shot 2017-12-03 at 1.31.17 PM.png Screen Shot 2017-12-03 at 1.31.42 PM.png Screen Shot 2017-12-03 at 1.32.05 PM.png