• 均匀分布的熵最大——熵增定理,意味着大家都会趋同,成为乌合之众,最终无差异化。。。在企业管理中这是一件恐怖的事情


    什么是熵(Entropy)

    简单来说,熵是表示物质系统状态的一种度量,用它老表征系统的无序程度。熵越大,系统越无序,意味着系统结构和运动的不确定和无规则;反之,,熵越小,系统越有序,意味着具有确定和有规则的运动状态。熵的中文意思是热量被温度除的商。负熵是物质系统有序化,组织化,复杂化状态的一种度量。

    熵最早来原于物理学. 德国物理学家鲁道夫·克劳修斯首次提出熵的概念,用来表示任何一种能量在空间中分布的均匀程度,能量分布得越均匀,熵就越大。

    1. 一滴墨水滴在清水中,部成了一杯淡蓝色溶液
    2. 热水晾在空气中,热量会传到空气中,最后使得温度一致

    更多的一些生活中的例子:

    1. 熵力的一个例子是耳机线,我们将耳机线整理好放进口袋,下次再拿出来已经乱了。让耳机线乱掉的看不见的“力”就是熵力,耳机线喜欢变成更混乱。
    2. 熵力另一个具体的例子是弹性力。一根弹簧的力,就是熵力。 胡克定律其实也是一种熵力的表现。
    3. 万有引力也是熵力的一种(热烈讨论的话题)。
    4. 浑水澄清[1]

    image

    于是从微观看,熵就表现了这个系统所处状态的不确定性程度。香农,描述一个信息系统的时候就借用了熵的概念,这里熵表示的是这个信息系统的平均信息量(平均不确定程度)

    信息熵:信息量的期望(加权平均):

    [公式]

    信息熵特点:(以概率和为1为前提哈)

      a) 不同类别的概率分布越均匀,信息熵越大;

      b) 类别个数越多,信息熵越大;

      c) 信息熵越大,越不容易被预测;(变化个数多,变化之间区分小,则越不容易被预测)(对于确定性问题,信息熵为0)

  • 相关阅读:
    windows使用.NET CORE下创建MVC,发布到linux运行
    linux使用.net core 创建简单的MVC
    .net core 简单项目的创建
    Linux下配置mysql远程访问
    把二维码的图片和文字结合到一个背景图片上,合成一张图
    MvcPager帮助文档 — PagerOptions 类
    集合对象去重
    主键、外键
    SQL、T-SQL与PL-SQL的区别
    SqlServer 连接GreenPlum问题处理
  • 原文地址:https://www.cnblogs.com/bonelee/p/15116309.html
Copyright © 2020-2023  润新知