美文网首页经济@财经每天读书10分钟每天写1000字
《知识与权力》(3)新型经济体系中的信息熵

《知识与权力》(3)新型经济体系中的信息熵

作者: 小播读书 | 来源:发表于2017-09-03 23:05 被阅读43次
信息论之父:香农

本章我们主要讲解信息论。克劳德·艾尔伍德·香农(Claude Elwood Shannon ,1916年4月30日—2001年2月24日)是美国数学家、信息论的创始人,被称为“信息论之父”。1936年获得密歇根大学学士学位  。1940年在麻省理工学院获得硕士和博士学位,1941年进入贝尔实验室工作。香农提出了信息熵的概念,为信息论和数字通信奠定了基础。1948年,发布了《通讯的数学原理》完整地产生了信息论的想法,奠定了其信息论之父的称号,同时信息论也被视为互联网的理论基础。

信息论对经济的影响可以简单归纳为:

1:所有信息都是令人惊奇的事物。

2:是由令人惊奇的事物才有资格称之为信息。

这是信息论的基本原则,信息就是我们在信息传输之前已知的事物与信息传输之后知道的事物之间的转变。亚当斯密试图复制牛顿和莱布尼茨在物理学的成就,构建一个有秩序的经济体系。但是他忽略了随机性。想要摆脱那种专注于市场机制的传统经济学的束缚,需要建立一种专注于非秩序性、非均衡和意外事件的新型经济学。在这种新型经济学中,更多地突出人的作用。

按照亚当斯密的经济学理论,他们认为财产权、自由贸易、货币供给和适当的税收是经济繁荣的必要条件,而忽略了企业的作用和人的创造力的作用,根据热力学第二定律,宇宙作为一个独立的系统,其物理熵会随着时间的流逝而增加,由有序走向无序,当宇宙的物理熵达到峰值,宇宙中其他有效能力有已经全部转化为热能,所有物体达到热平衡,称为:热寂。在这种状态下,宇宙再也没有任何可以维持运动或者生命的能量存在,当然也不可能有任何发明或者令人惊讶的事物。

香农根据信息熵对信息进行度量,他认为信息熵指的是出乎意料的数字位,熵是对不确定性的测量。在信息的世界里,熵越高,传递的信息越多,反之越少。可以说,香农的信息熵是对系统有序化程度的一个度量,一个系统越有序,信息熵越低,反之越高。而且当一个系统中的所有信息有同等程度的不确定性时,信息熵达到峰值。

对于经济学而言,信息流的关键论点在于信息就是新闻,信息可以通过给其他人带来的惊异来度量。在经济活动中,包括商业观念,企业创意,经济利润,货币价值等促进经济增长的创新流程都可以称为信息。企业家是商业理念的创造者和管理者。他们通过具体的有形或者无形的产品将自己的理念和创意定向传递出去。比如乔布斯创造了音乐播放器,将自己的创意信息通过产品传递给消费者,乔布斯作为苹果的首席执行官,控制了很多环节,但整个项目最终能否成功要看它是否具有一个稳定的“信道”,这个信道包括,产品的设计、研发、生产和销售等各个环节。

信息论的原则包括:传递一个高熵的、能够给人带来高度惊异的产品,需要一个底熵的、不会出现惊异的信道。而且企业家对这个信道的影响具有举足轻重的作用,而那些具有创造力的人是产生惊异信息的主要来源。

香农提出的信息熵将创新、惊异、利润等联系在一起,所以是经济信息论的核心。一项发明成果或者一项具有颠覆性的创新能给人带来惊异,然后能带来超乎寻常的收益,这正是香农提出的信息熵的概念的体现。

相关文章

  • 《知识与权力》(3)新型经济体系中的信息熵

    本章我们主要讲解信息论。克劳德·艾尔伍德·香农(Claude Elwood Shannon ,1916年4月30日...

  • 《知识与权力》(9)信息熵与宇宙学

    这本书的核心就是讨论信息的作用,信息论的一个重要的原则:要传输高熵的信息,就需要一个低熵的载体。 首先让我们从热力...

  • ID3与C4.5算法

    写在开始 在开始决策树算法之前,我们需要准备一些信息论的知识: 信息熵 条件熵 信息增益 交叉熵 相对熵 信息熵 ...

  • 一文理解机器学习中的各种熵

    本文的目录组织如下: 【1】自信息【2】熵(香农熵)【3】联合熵【4】条件熵【5】互信息(信息增益)【6】 熵、联...

  • pyhanlp 共性分析与短语提取内容详解

    简介 HanLP中的词语提取是基于互信息与信息熵。想要计算互信息与信息熵有限要做的是 文本分词进行共性分析。在作者...

  • 信息熵相关知识总结

    前言 学习决策树时会接触到一些信息熵,条件熵和信息增益的知识,此外还有互信息,相对熵,交叉熵和互信息,KL散度等等...

  • 信息熵与最大熵模型

    信息熵是什么?机器学习入门:重要的概念---信息熵(Shannon’s Entropy Model)信息熵信息论中...

  • 决策树算法梳理

    信息论基础(熵 联合熵 条件熵 信息增益 基尼不纯度) 信息熵:信息熵是度量样本集合纯度常用的一种指标。在信息论中...

  • AIT 中的信息与熵

    我们可以将图灵机定义为这么一种特殊的函数 : 其中,如果 接受输入参数 ,则 ,且 为图灵机输出结果;如果 ...

  • 《知识与权力》(2)信息论与新型经济学

    2012年,著名的全球无线通信技术领导者高通公司的市值达到1100亿美元,超过了英格尔公司,成为美国最有价值的微芯...

网友评论

    本文标题:《知识与权力》(3)新型经济体系中的信息熵

    本文链接:https://www.haomeiwen.com/subject/hshsjxtx.html