特征多了，模型对当前的样本高度拟合，但一旦换一组样本，会出现极大的偏差。
我们如何解决过拟合的问题呢？
脑洞
不减少特征，又希望特征对结果影响越小越好，那么只能在优化时将特征的系数纳入考虑，特征系数为0的越多越好，那么式子里面虽然特征还是那么多，但是实际上结果不受特征的影响。
比如说xk这个特征我觉得不那么重要，其系数是θk，那么我在代价函数后面就加上1000θk^2，这样，在最小化代价函数的时候，就对θk的大小做了约束。
正则化
对所有的特征都做同等约束
新的代价函数
一、概念 拟合，欠拟合，过拟合拟合：测试机数据对于模型的匹配度，趋于欠拟合和过拟合之间；欠拟合：学到的很少；过拟合...
过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 ...
过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 ...
过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 ...
过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 ...
过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 ...
过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 ...
过拟合、欠拟合及其解决方案 过拟合、欠拟合的概念 权重衰减 丢弃法 模型选择、过拟合和欠拟合 训练误差和泛化误差 ...
过拟合、欠拟合及其解决方案 过拟合与欠拟合 欠拟合 过拟合 解决方案 权重衰减 L2 范数正则化 范数正则化在模型...
过拟合、欠拟合及其解决方案 1.过拟合、欠拟合的概念2.权重衰减3.丢弃法 模型选择、过拟合和欠拟合 训练误差和泛...
本文标题：【过拟合】
本文链接：https://www.haomeiwen.com/subject/tlnerctx.html
网友评论