关于熵

作者: 湘江北去饮水思源 | 来源:发表于2019-08-07 22:57 被阅读0次

克劳修斯(T.Clausius) 于1854年提出熵(entropie)的概念, 我国物理学家胡刚复教授于1923年根据热温商之意首次把entropie译为“熵”。

以熵原理为核心的热力学第二定律, 历史上曾被视为堕落的渊薮。美国历史学家亚当斯H.Adams(1850-1901)说:“这条原理只意味着废墟的体积不断增大”。有人甚至认为这条定律表明人种将从坏变得更坏,最终都要灭绝。热力学第二定律是当时社会声誊最坏的定律。

信息论之父 C. E. Shannon 在 1948 年发表的论文“通信的数学理论( A Mathematical Theory of Communication )”中指出,任何信息都存在冗余,冗余大小与信息中每个符号(数字、字母或单词)的出现概率或者说不确定性有关。Shannon 借鉴了热力学的概念,把信息中排除了冗余后的平均信息量称为“信息熵”。

一个生命有机体在不断地产生熵——或者可以说是在增加正熵——并逐渐趋向于最大熵的危险状态,即死亡。要摆脱死亡,就是说要活着,唯一的办法就是从环境中不断地吸取负熵。我们马上就会明白,负熵是十分积极的东西。有机体就是靠负熵为生的。或者更确切地说,新陈代谢中的本质的东西,乃是使有机体成功地消除了当它自身活着的时候不得不产生的全部的熵。——薛定谔

相关文章

  • Huffman编码原理及实现

    Huffman编码特点: 熵编码,编码效率受限信息理论熵极限(关于这部分具体理论记不得,参考物理的熵,熵极大,就是...

  • 关于熵

    克劳修斯(T.Clausius) 于1854年提出熵(entropie)的概念, 我国物理学家胡刚复教授于1923...

  • 关于“熵”

    《南方周末》2019的新年献词中有这样一段话: 我们感动,我们深思:什么才是生命的真谛?什么才是生命最大的神奇?我...

  • 收纳学导论

    目录: # 关于逆熵场的学问 # 可收纳集合与不可收纳集合 # 购买熵还是负熵 # 能变形的家具都是耍流氓 # 结...

  • 信息熵 小结

    各类熵的定义和计算 单个变量的信息熵的计算公式如下 两个变量的联合熵计算公式 条件熵是条件分布上关于起条件作用的那...

  • 随笔

    人活着就是在对抗熵增定律,生命以负熵为生。——薛定谔 最近读了关于“熵”的文章。 读过之后,又发觉了自身的很多缺点...

  • 有关熵的一些问题

    开篇 Ok,今天我们讲一下关于熵的一些问题,我们这边主要讲的就是信息熵,因为我们机器学习算法中用到最多的就是信息熵...

  • 令人胆寒的“熵增定律”

    最近在读书时,读到了一些关于熵的文章。什么是熵?熵是热力学中表征物质状态的参量之一,其物理意义是体系混乱程度...

  • 熵增定律

    关于熵,感觉有点儿意思,整理一下资料 什么是熵 百度百科上说,熵是,热力学中表征物质状态的参量之一,用符号S表示,...

  • 一、看文章 “熵”不起:从熵、最大熵原理到最大熵模型(一)“熵”不起:从熵、最大熵原理到最大熵模型(二)“熵”不起...

网友评论

      本文标题:关于熵

      本文链接:https://www.haomeiwen.com/subject/rjyzdctx.html