奥卡姆剃刀定律是机器学习选择算法时可参照的标准之一。其含义是：在其他条件一样的情况下，选择简单的那个。
该定律的意义在于数据的拟合和低复杂性之间实际上存在着折衷。
理论上假设的解决方案越复杂，就越能拟合数据，训练数据误差就会越低
图1
但是在现实生活中，有关未知数据的泛化误差，往往如图2所示。
图2
泛化数据误差实际是训练数据误差与另一个名为过拟合误差的函数之和。
图3
在泛化误差最小得情况下，可获得最佳复杂性。用于计算过拟合误差得方法统称为贝叶斯方差方法。在现实生活中，通常只会获得训练数据误差。但实践表明，如果你不去选择能够使训练数据误差最小化的模型，而是选择复杂性低一点的模型，算法的表现往往会更好。过拟合是机器学习算法性能不佳得主要缘由。这也是在机器学习中应用奥卡姆剃刀定律的原因
1 正则化（Regularization） 奥卡姆剃刀定律。 机器学习中几乎都可以看到损失函数后面会添加一...
奥卡姆剃刀定律是机器学习选择算法时可参照的标准之一。其含义是：在其他条件一样的情况下，选择简单的那个。 该定律的意...
奥卡姆剃刀定律 把握关键，化繁为简 奥卡姆剃刀定律说的是要把握关键，化繁为简。在我们日常的生活和工作中，我们需要放...
一，奥卡姆剃刀定律 奥卡姆剃刀定律（Occam's Razor, Ockham'sRazor）又称“奥康的剃刀”，...
#1000个定律学习计划# 1000/02 【认知日期】2020/08/04 【定律名称】汉隆剃刀/奥卡姆剃刀? ...
奥卡姆剃刀定律：如无必要，勿增实体 奥卡姆剃刀定律是由英国奥卡姆的威廉所提出来的。在他主张的唯名论中，奥卡姆的威廉...
今天想说的词是“奥卡姆剃刀定律” 先来解释一下这个词的出处吧，奥卡姆剃刀定律，又称“奥卡姆剃刀”它是由14世纪逻辑...
概念：奥卡姆剃刀定律 奥卡姆剃刀定律是由14世纪逻辑学家，奥卡姆的威廉提出。奥卡姆是个地名，提出这个定律的人，是威...
概念：奥卡姆剃刀定律 奥卡姆剃刀定律是由14世纪逻辑学家，奥卡姆的威廉提出。奥卡姆是个地名，提出这个定律的人，是威...
这是刘润老师“五分钟商学院”第二十二周的第一篇学习笔记：奥卡姆剃刀定律&抓大放小管细。 1. 概念：奥卡姆剃刀定律...
本文标题：机器学习中的奥卡姆剃刀定律
本文链接：https://www.haomeiwen.com/subject/jgyuoxtx.html
网友评论