【172→认知】吴军信息论【1】

作者: Koala谦爸 | 来源:发表于2019-07-23 20:03 被阅读11次

    信息时代最大特征是不确定性

    信息论就是这半个世纪以来,人类对抗不确定性,最重要和有效的方法论。

    1948年,香农博士找到了不确定性和信息的关系,从此为人类找到了面对不确定性世界时的方法论,也就是利用信息消除不确定性。

    三个能力

    第一,在面对大量信息时,排除噪音,提取利用有效信息,科学做决策的能力

    第二,向外界传递信息时,平衡分配有限资源,增加沟通带宽,放大影响力的能力

    第三,看懂信息应用的逻辑和通信发展的趋势,提前抓住新机遇的能力

    一个人的思维方式和做事方法常常决定了一个人能够走多远,而在历史的任何时期,都有最适合时代的方法论。

    世界上任何一个探索者都需要清楚三件事:我们现在的位置,我们的目标,以及通向目标的道路。

    1

    不要重视钱而轻视信息。信息很重要,甚至比钱更重要,它能四两拨千斤。而信息作用的大小和信息量有关。

    信息量和不确定性有关,大家都知道的事,就没有什么信息量了。公众都知道的信息,其实是没有信息量的。

    对于一个未知系统(黑盒子)所作出的估计和真实情况的偏离,就是信息的损失,偏离越多损失越大。

    用很小的信息,驱动很大的能量

    2

    有些推断可信度高一些,有些低一些,世界上没有绝对的可靠,只有可靠性地高和低,信号和噪音比率的高和低。

    一篇好的论文,一方面需要信息量高,另一方面需要在信息传播上效率高。

    要精简,要保证对方听懂自己最核心的想法,这就够了。

    控制生命活动的信息,其实并不被我们主观控制,但是我们可以发现它们。

    影响世界的重大科学发现其实都是在极短的论文中发表出来的,因为世界上最关键的信息(知识)其实是非常简洁的,也就是说一条信息的信息量可能和信息的长度无关。

    信息是我们世界固有的属性。

    3

    大数据

    第一,解决人工智能问题。利用数据(信息)消除不确定性,这是香农信息论的本质,也是大数据思维的科学基础。

    第二,精准服务,从中你可以看出一个商业趋势:公司从重研究方法到重数据收集的转变。

    第三,动态调整做事策略,足够多的数据可以帮助我们动态匹配最佳结果。

    第四,最后一类是利用大数据发现未知规律,这背后涉及互信息的理论,是我们后面课程的重点内容。

    大数据的关键是思维方式的变化。

    4

    对于一条信息,重要的是找出其中有多少信息量,要搞清楚“信息量”,就要对信息进行量化的度量。

    信息度量基本单位:比特,其定义为,如果一个黑盒子中有A和B两种可能性,它们出现的概率相同,那么要搞清楚到底是A还是B,所需要的信息量就是一比特。

    我们把充满不确定性的黑盒子叫做“信息源”,里面不确定性叫做“信息熵”,而“信息”就是用来消除这些不确定性的,所以搞清楚黑盒子里是怎么一回事,需要的“信息量”就等于黑盒子里的“信息熵”。

    一个系统中的状态数量,也就是可能性,越多,不确定性就越大;在状态数量保持不变时,如果各个状态的可能性相同,不确定性就很大;相反,如果个别状态容易发生,大部分状态都不能发生,不确定性就小。

    永远不要听那些正确率总是50%的专家的建议,因为那相当于什么都没说,没有提供能够减少“信息熵”的“信息量”。

    多了解信息论和基本的数学常识,可以在生活中省下不少冤枉钱,很多交易和产品都是利用了信息的可度量性。

    信息量的大小不在于长短,而在于开创多少新知。

    相关文章

      网友评论

        本文标题:【172→认知】吴军信息论【1】

        本文链接:https://www.haomeiwen.com/subject/byxzlctx.html