信息论视角下的奥卡姆剃刀原则

奥卡姆剃刀原则出现得非常多，我在不同的书上看到了，以为我自己理解了。一直记得的就是，如无必要，勿增实体。但我从来没有想过为什么他会是对的。当听到吴军老师的信息论课程中讲到这个原则的时候，我发现我其实并没有理解透奥卡姆剃刀原则。

奥卡姆剃刀原则意味着，越复杂的东西，越容易犯错。世界很多事情，都有一种简洁的美在里面。如果我们建模去模拟的时候，变得很复杂很难理解，其中可能就包含着错误。托勒密的本轮和伽利略的椭圆轨道，都能计算行星的轨道。但复杂度完全不一样，一个需要几十个嵌套的本轮，复杂到很少人能计算清楚的境地。另外一个是椭圆轨道，只有两个参数，用高中学到解析几何知识能很快的计算出来。简单的算法，出错的可能性就会变小。而复杂的模型，意味着里面包含着很多冗余的参数。吴军老师说本轮模型和椭圆模型数学上是等价的。如果有两个模型是等价的，那么当然是简单的模型更加适合我们去理解和使用。

第二个启发式使用奥卡姆剃刀原则不仅仅可以用于做选择上，还可以用到剔除冗余数据寻求最小集合上。有时候遇到一些事情，有很多种的方法可以解决。如果我们对其分析思考，可能就会发现在这些方法中，有一个共通的基本模型。实际应用种找到这种本质的模型，就能为我们理解和应用带来便利。这个去除冗余信息的过程，吴军老师叫做做减法。如果我们生活中，觉得有些事情太复杂，就是需要我们做减法，用一个更简单的视角去理解世界了。

查理芒格说他只掌握了上百种模型，然后就能理解世界上的大多数事情。吴军老师建议我们提高自己寻找基函数的能力。我现在的理解，这种基函数和查理芒格说的模型某种程度上是等价的。随着看的书越来越多，发现很多不同的道理，都有一个相同的本质。而不同的作者，不同的人讲出来的东西，都是不一样的。要想一个个的理解使用，会发现学得太多顾此失彼。学习不是为了让生活变得复杂，而是让生活过得更加自在。所以我需要去慢慢抽取这些不同老师讲述内容的基函数，找到类似查理芒格所说的模型。