信息冗余度与压缩、相关性
一、信息冗余度
1、定义：在信息论中，我们采用一种叫做冗余度的概念对信息的这种“密集”和“稀疏”程度进行描述。
2、冗余度的好处：
a、冗余度的第一个好处，就是便于理解，有些书籍，虽然内容很多，但是很容易阅读理解，就是由于信息量不大；
b、冗余度的第二个好处是，在语言学上它消除了很多歧义性；
c、冗余度的第三个好处是：带来信息的容错性；
一句话概括就是：易理解、消歧义和容错性。
3、存在的问题：
a、存储和传递信息时的浪费；
b、如果在信息中混有噪音，过多没用的信息可能会导致错误；
二、信息的等价性
1、现实生活中，我们直接得到原封不动的信息很少，往往需要面对错综复杂的信息时，从少量的其他信息为我们推导出原有信息。
a、找到这种周期性信号的等价信息；
b、对等价信息进行压缩；
c、如果要使用原来的信号，通过压缩后的等价信息复原原来的信号。
2、傅立叶变换：19世纪初，法国数学家傅立叶发现所有的周期性信号都可以用频率和振幅不同的正弦函数叠加而成，也就是说周期性信号里面所包含的信息和若干正弦函数的频率、振幅信息完全等价。
2、善用等价信息，是我们这个年代每一个人都必须掌握的工作技巧。
三、信息的前后相关性
1、利用信息前后的相关性，对于后面的信息做增量编码，达到大幅度压缩信息冗余的目的；
2、把信息冗余都挤掉后，编码长度非常短时，容错的性能就会下降；
3、信息的前后相关性，是信息本身固有的特征；
4、完成巨大的改变，往往很难一蹴而就，否则基本上都以失败告终，需要我们进行更多的小改变，才能推行下去。
三、学习小结
1、读书要读出主线，将一些细节过滤掉，这样容易记忆，其为大脑节省更多的存储空间；
2、善于使用记忆卡片，每张卡片可以等价对应一个复杂的知识点，知识容易织成网，便于大脑随时抽取和记忆；
3、世界是复杂、渐变的，我们在坚持总体原则不变前提下，小步快跑，不断迭代，最终反而能够最有效率的达到改变的目的。
网友评论