熵的概念

作者: 上校阻击手 | 来源:发表于2018-12-12 15:19 被阅读0次

熵的概念与历史

熵,读音同“商”。熵和三个领域学科有关:热力学、物理学、信息论。

“熵”这个概念,是由德国物理学家鲁道夫·克劳修斯在1865年提出的。但熵的诞生,最早源于热力学。

19世纪工业革命时期,设计蒸汽机的工程师非常关注机器的工作效率,比如水的温度要达到多少、什么样的沸腾物质能让蒸汽机运转更快等。基于这些问题的研究,解释热量是如何流动的热力学定律诞生,其中的“热力学第二定律”就涉及到了熵。

热力学第二定律又称“熵增定律”,表明了在自然过程中,一个孤立系统的总混乱度(即“熵”)不会减小。在热平衡系统中,熵值是达到最大化的。

1877年,奥地利物理学家玻尔兹曼用物理学解释了熵。

1948年,美国数学家、信息论创始人克劳德·香农将熵的概念,引申到了信道通信的过程中,从而开创了”信息论“这门学科。信息熵不是指信息本身,而是信息量的表征。

区块链防懵逼指南之一:熵(shāng)

如何通俗的理解“熵”

“熵”其实是一种无序程度的度量方式,越混乱越无规律,熵值就越大,反之熵值越小。

比如,在室温20℃时,两个烧杯分别装有白水和蓝钢笔水,水温都是20℃。把蓝钢笔水滴一滴在白水中,蓝钢笔水会慢慢散开了,最终会相对均匀的分布,并让白水变蓝。

“熵”就是表达这样一个分布程度的量。

你可以把蓝钢笔水看做是能量,把能量注入系统后,能量向均匀分布方向发展,这时候熵增大。

有观点认为,热力学的熵和信息论的熵,说的是同一种东西,因为定义公式都是:

区块链防懵逼指南之一:熵(shāng)

但是,热力学熵和信息熵不能混为一谈。

举个例子:把两杯温度不同的水混合到一起,熵会增加,但你不能直接通过向其输入信息来再次将水变成两部分不同温度的有序状态。

熵是如何与区块链扯上关系的?

可能是基于“去中心化”这个特性。以下分析与观点整理于网络。

自然界总是越来越趋向于无序,不能达到共识。达到共识唯一的办法,就是把周围搞得更乱一点,把自己搞得整齐一点。

熵增定律,解释了一切事物都是从有序趋向无序,也就说宇宙也是从有序走向无序,即xx亿年后,太阳也会从有序的球体爆炸为无序的气体和粉尘,即星云。

而熵的原理,实际上是量子不确定性、纠缠的某种必然效应。熵最大原理只有在局域的子系统中适用,而整体的环境不会达到热平衡,也就是宇宙不会热寂。

区块链防懵逼指南之一:熵(shāng)

世界的随机性根源在于量子非定域不确定性。人类观测宇宙有时间空间局限性造成时间箭头。因此,爱因斯坦说时间是幻觉。这些量子纠缠、熵的概念架构了从非定域的量子世界到定域世界的桥梁。

达到共识必然造成熵减,因为达成共识(指向同一个方向)状态的熵远比杂乱无章的熵要小,但根据热力学第二定律:整个系统的熵永远是增加的。所以,达成共识的同时,一定要排除一些熵。去中心化的机制,和自然界中磁铁从杂乱无章的状态达到有序的铁磁状态非常相像。

中心化智能系统的复杂度过高导致效率降低,因此引入去中心化的分布式系统,可以保持系统的低熵。

而比特币的基本核心理念也是“分布式系统”,属于非定域整体性存在的互联网版,它体现了我们处在这个时代或者这个世界的未来特征,即大数据弱关联代表了这个时代的整体特性。

区块链防懵逼指南之一:熵(shāng)

有序的奖惩机制

还有一种说法认为,区块链数字货币引入奖励制度也与熵有关,因为:

“奖惩透过整个人类组织间接地支配着负熵,是负熵的衍生品,奖惩有着比负熵更好的流动性,也有着比负熵更好的普适性”。

这个说法有些牵强。因为奖惩的做法,并不能让组织行为变得有序。我们并不缺乏奖惩,缺乏的是“有序的”奖惩机制。

回过头再看文章开头那一句:

互联网的无序熵增导致信息遗忘,而区块链保持有序熵不流失;

其实引申的意思是:

互联网是在混乱中产生秩序,而区块链是在秩序中连接混乱。

有业内人士用熵的理念来描述互联网和区块链的本质区别:

如果说互联网为人类带来了一个信息碎片化时代,那么区块链则在重构文明线性思维。

相关文章

  • cross entropy交叉熵和ground truth总结

    一.cross entropy 交叉熵 交叉熵的概念得从信息熵的概念说起,我们都知道信息熵,简而言之就是信息量多少...

  • 熵的概念

    熵的概念与历史 熵,读音同“商”。熵和三个领域学科有关:热力学、物理学、信息论。 “熵”这个概念,是由德国物理学家...

  • 熵的概念

    热力学第二定律有几种表述方式: 克劳修斯表述:热量可以自发地从较热的物体传递到较冷的物体,但不可能自发地从较冷的物...

  • 人为什么要勤奋和自律?

    1 人为什么需要勤奋和自律? 或许从熵增的概念里可以找到答案 ——反熵增 2 什么是熵增? 熵: 是一个物理学概念...

  • 熵增原理简史(一)

    前 言 熵增原理简史,从熵的概念、熵的研究史、熵增原理、宇宙熵增和广义熵增原理五方面阐述。特别是后两块内容,对熵...

  • 认识“熵”--“熵减”让生命充满活力

    一、什么是“熵”? “熵”的概念,我以前也接触过,是热力学概念。早上听了华为的管理顾问丁伟老师的一堂直播课《熵减-...

  • 信息熵与最大熵模型

    信息熵是什么?机器学习入门:重要的概念---信息熵(Shannon’s Entropy Model)信息熵信息论中...

  • 信息熵(香农熵)、条件熵、信息增益的简单了解

    信息熵(香农熵) 1948年,香农提出了 “信息熵(entropy)”的概念信息熵是消除不确定性所需信息量的度量,...

  • 02 决策树 - 初识与构建

    在讲决策树之前补充了一些基本概念:比特化、信息熵、条件熵,重点理解熵的概念。本章开始正式进入机器学习模型-决策树。...

  • 熵最大模型

    第八章 熵最大模型 [TOC] 1.概念介绍 1.1 熵的定义 文中H表示离散熵,h表示连续熵 1.1.1 信息量...

网友评论

    本文标题:熵的概念

    本文链接:https://www.haomeiwen.com/subject/uufphqtx.html