- [机器学习入门] 李宏毅机器学习笔记-30 (Sequence
- 《李宏毅 - 深度学习》笔记
- [机器学习入门] 李宏毅机器学习笔记-22(Transfer L
- [机器学习入门] 李宏毅机器学习笔记-33 (Recurrent
- [机器学习入门]李宏毅机器学习笔记-2(Regression:C
- [机器学习入门] 李宏毅机器学习笔记-5(Classificat
- [机器学习入门] 李宏毅机器学习笔记-19 (Deep Gene
- [机器学习入门] 李宏毅机器学习笔记-15 (Unsupervi
- [机器学习入门] 李宏毅机器学习笔记-24(introducti
- [机器学习入门] 李宏毅机器学习笔记-6 (Classifica
![](https://img.haomeiwen.com/i9126620/ed2a31e0b05f2b91.png)
Linear Model往往比较简单,y都是随着X(x1,x2...)的输入线性变化的,但在现实场景中问题往往不是Linear Model可以描述的。
![](https://img.haomeiwen.com/i9126620/5559f018803d27f9.png)
比如我们需要得到红色曲线时,用Linear Model就无法实现,这种模型无法拟合问题的情况下就叫做Model Bias。
那么我们如何拟合红色的曲线呢?
![](https://img.haomeiwen.com/i9126620/554e0ca6701de320.png)
通过上图方式就可以拟合出任意的Piecewise Linear Curves。
![](https://img.haomeiwen.com/i9126620/4c42aa9a7dca4dcb.png)
Piecewise Linear Curves:Curves由很多锯齿状线段组成。
如果不是Piecewise Linear Curves也可以近似表示。
![](https://img.haomeiwen.com/i9126620/2f131c3abfac63ac.png)
那怎么表示这样的曲线呢,表示起来不是很容易,所以我们用Sigmoid近似表示。
![](https://img.haomeiwen.com/i9126620/01cb52ba84df8ed5.png)
其实实现的这个function就叫做hard sigmoid
有了sigmoid function我们就可以通过改变参数用不同的sigmoid function去拟合任意连续函数了。
![](https://img.haomeiwen.com/i9126620/d5ea158da381418d.png)
![](https://img.haomeiwen.com/i9126620/453e185ab7a0c848.png)
![](https://img.haomeiwen.com/i9126620/51544744a9cfb4f9.png)
如果把式子画出来:
![](https://img.haomeiwen.com/i9126620/e901da72f5d34eed.png)
![](https://img.haomeiwen.com/i9126620/b276d72a5824c2ee.png)
![](https://img.haomeiwen.com/i9126620/b8f63ddd836a24f2.png)
![](https://img.haomeiwen.com/i9126620/24ce217e023c3b83.png)
![](https://img.haomeiwen.com/i9126620/bc836f76a7dccaa3.png)
用线性代数最终表示的式子:
![](https://img.haomeiwen.com/i9126620/ff773ceda8abc8cb.png)
我们把式子中的所有未知参数提出来,拉成一个向量。这些参数我们一律统称。
![](https://img.haomeiwen.com/i9126620/9294d959a9252884.png)
Step1的过程我们已经抽象到一个式子了。
![](https://img.haomeiwen.com/i9126620/12ddaaf6ef8e666f.png)
网友评论