正则化

欠拟合：underfitting  高偏差

出现原因：模型过于简单，参数过少

过拟合：overfitting  高方差

 出现原因：没有足够多的数据来约束这个变量过多的模型，导致泛化能力差

过拟合的解决方案

一.尽量减少选取特征的数量，保留重要特征，舍弃不重要特征

二.正则化，保留原有特征，但减小特征变量的数量级

正则化参数： 控制在两个不同目标中的平衡关系

具体见http://www.cnblogs.com/jianxinzhou/p/4083921.html