美文网首页
信息论思维学习笔记

信息论思维学习笔记

作者: 行知_7b20 | 来源:发表于2022-04-21 10:15 被阅读0次

      把信息和信息产业甚至是互联网行业画上了等号,这是个很大的误解,其实信息是宇宙固有的组成部分,就和力运动本概念一样,可以说是宇宙大爆炸的一个开始,信息就和能量一同出现,然后才会一生二二生三,三生万物,也就是说世界上几乎任何的事物都可以用信息的方式来量化。

      我们对世界的观察改变了客观世界,我们生活的这个世界的确是没有绝对客观的存在,人类观察世界的方式和角度,和这个世界对待我们的方式和方法,会从物理学的层面影响彼此,我们真正能观察到的东西其实是客观世界和主观想象之间的结合体。

      能量和信息两者之间有什么最明显的差别就是能量守恒,但信息不守恒。人类之间分享知识是一件可以为这个世界创造纯粹增量的事,你分享了知识里的知识并没有减少,但是别人的知识却增加了。

      为了提高我们的人生效率,我们应该把生活中最重要的资源分配给那些人生中很高频出现的场景。

      模棱两可,平均用力是一种相对无效的资源配置方式。

      霍夫曼编码和奥卡姆剃刀:如无必要勿增实体,大刀阔斧的做减法,加上围绕关键领域饱和配置资源。

      通过关注信息增量而不是关注信息存量来极大的提升效率。

      关注变化,忽略重复,可以使我们的工作学习效率提升n倍。

      快速阅读的前提是你的基础知识一定要先打牢,如果你对很多人类关键的学科知识都建立了认知框架,那么新书的增长阅读也就非常快。

      做任何的事情起步的时候先花时间把基础攻练扎实,后面不断前进,就可以只关注增量,这就会大大提升你的效率。

    互信息,那两件事情之间的互信息越大,就表明他们之间的相关性越强。两个独立事件之间的相关性是可以通过严格的计算得出的,只要他们之间的互信息比较高,我们就可以确信他们有相关性,而不需要寻找他们的因果性,这是数据科学给人类非常重要的一种思考方法。研究相关性放弃因果性非常不符合人类的本能,但是在这个世界上大部分事物间的联系其实都是相关联系,而不是因果联系。

      成功原因其实非常复杂,无法追溯,这其实就是真实世界里面很多事物因果关系的常态。很多事情我们永远无法解释它的成因,但是我们可以使用信息论和数据科学去分析万事万物之间的关联性,这就是科学最迷人的地方。因为它可量化,可证伪,清楚自己干不了什么,也清楚自己能干什么。

      传达信息的过程中,废话或者重复信息其实是有必要的存在,因为冗余度如果太低,就会增加人类接收信息的难度,我们的大脑设计并不是用来接收高密度信息的,你看我们需要呼吸会走神,接收信息的程经常需要停顿,所以如果我们接触的信息完全没有冗余度,就会导致我们一旦走神马上会丢掉必要的信息,只能够不断的回头去重新阅读,这就会导致额外的痛苦。

      那最经典的冗余度例子就是标点符号了,最常出现的逗号和句号其实信息量非常小,要知道机器读文章就是不需要标点符号的,但是人类却很难接受完全没有标点符号的长文章。冗余信息的存在就是为人类设计的,但是很明显冗余度肯定不是越高越好,它应该有个度,这个度因人而异。

      我们这代人出生的信息时代的童年阶段就接受了大量的信息训练,所以大脑前叶皮质负责分析和理解信息的脑区是比前几代人都要发达的,这意味着我们能够接受更高密度的信息内容。随着信息科技的发展,人类对冗余的容忍度也在变得越来越低。

      冗余度的启发。第一,冗余并不是坏东西啊,在工程领域它可以保证系统运作的安全,表达上能够更好的服务于人类的认知习惯。第二,时代在进步,人类习惯接受的冗余度它也在减少,所以我们越来越需要掌握去除冗余的方法。

相关文章

网友评论

      本文标题:信息论思维学习笔记

      本文链接:https://www.haomeiwen.com/subject/mariertx.html