5
编码长度≥信息熵（信息量）/每一个码的信息量。
人类创造数字和文字语言的过程，告诉大家，其实它们都是人类用来消除不确定性的编码手段。各种编码系统，其实都是在编码复杂性和编码长度之间作平衡，它们在数学上是等价的。
由于它们是等价的，所以，在一个编码系统中解决不了的问题，换一个系统同样解决不了。
香农第一定律告诉我们，只要编码设计得足够巧妙，就可以找到最短编码。
6
好的编码第一个特点就是便于区分不同的信息
第一个原则：“明确”
其他的三条原则“诚实、勇气和责任”
信息编码的第一个基本原则：“易识别”，应用在我们个人沟通中，也是如此。作为一种好的编码还要做到“有效”。
如何组合信息，保证它高效传递，还不能不违背第一条“易辨识”的原则。
7
哈夫曼编码指导行动：是的，我是这么做的。
一方面我从来不排斥尝试新东西，这样不会失去机会，我尝试过的各种事情远比外界知道的多，只是绝大部分失败了，我没有继续罢了，大家也就无从知晓了。
另一方面对于花了一些精力，看样子做不成的事情，我是坚决做减法止损。
8
信息越多，需要的编码越多，这是文明自然演变不可避免的过程。
世界上人为想做的，但违背规律的事情，做起来总是困难重重。
它们让问题变得简单，但是会丢失信息，而平衡便利性和信息的完整性，就成为了艺术。
9
（信息的编码长度-一条信息的信息量）/信息的编码长度
因为如果冗余度太低，会严重影响接受信息的速度。
语言中冗余度的第一个好处，也就是便于理解。
冗余度的第二个好处是，在语言上它消除了很多歧义性。
冗余度的第三个好处是，带来信息的容错性。
问题：首先，大家能够直接感受到的就是在存储和传递信息时的浪费。
如果再信息中混有噪音，过多没用的信息可能会导致错误。
讲东西要通过加入一些看似是废话，但是实际上是从侧面诠释你的想法的句子，帮助对方理解你的意思。
讲东西要有一致性，不要补充有可能和主要思想矛盾的例子，或者和想法无关的冗余信息。
在我们脑子存储信息时，要进行压缩，这样脑子才能记得住事情。
10
对于这一类波动信号，信息压缩的基本原理：
1 找到这种周期性信号的等价信息
2 对等价信息进行压缩
3 如果要使用原来的信号，通过压缩后的等价信息复原原来的信号
善用等价信息，是我们这个年代每一个人都必须掌握的工作技巧，这是我们这讲最希望你记住的一个知识点
网友评论