信息论

b站大咖林超的跨学科通识课讲了信息论中常见的模型。

首先通过张首晟教授最推荐的三条最重要的公式引出。质能方程真是太牛了，不光形式优美，还把物质和能力统一了。

然后是信息熵模型，这个其实比较有用，可能因为要求log，还要求多项式的和，看起来有点难，其实这个原理也是比较简单的，而且也是比较有用的。

15、信息论.png

之后是霍夫曼编码，觉得这个其实可以用在我们生活的方法面面，比如资源的分配，我们要把资源分配给哪些我们经常用的，比如手机、电脑一定要好一点，因为这两个是我们日常用到频率最高的工具。当然，这里也可以了解一下奥卡姆剃刀原理，“如无必要，勿增实体”，该断舍离就断舍离吧。

帧间压缩算法，这个比较有用，比如在绘制动画时，每一帧之间其实大部分的元素是不动的，我们复制就行，然后修改活动的地方，这样就大大减轻了工作了。林超这里讲得学习的案例也非常值得借鉴，比如我们高频用到的基础知识，我们一定要好好学习，后面新的知识学起来就更轻松了，因为我们新学习的内容大概率是一部分旧知识+一部分新知识，我们只需要学习这部分新的知识就行。这有点像曾国藩说的“结硬寨，打呆仗”，步步为营。

最后作者还讲到了互信息和冗余度，冗余度很多时候是有好处的，可以作为备份。

参考文献
1、林超的跨学科通识课