美文网首页
个体信息理论 笔记

个体信息理论 笔记

作者: 斑驳岁月再难觅 | 来源:发表于2020-05-16 10:17 被阅读0次

    圣塔菲研究所提出“个体信息理论”

    系统环境作用因果图 互信息量的分解

    𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛)
    联合消息𝐸𝑛,𝑆𝑛和消息𝑆𝑛+1之间的互信息量
    在时间 𝑛+1 时,未来个体状态 𝑆𝑛+1 和上一个时间段的系统自身(前代)𝑆𝑛 和 环境信息 𝐸𝑛 的联合状态之间的互信息

    第一种分解 生物体内源决定(Endogenous determination)

    𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛) = 𝐼(𝑆𝑛+1;𝑆𝑛) + 𝐼(𝑆𝑛+1;𝐸𝑛|𝑆𝑛)
    𝐼(𝑆𝑛+1;𝑆𝑛)
    消息𝑆𝑛和消息𝑆𝑛+1之间的互信息量
    𝐼(𝑆𝑛+1;𝐸𝑛|𝑆𝑛)
    给定消息𝑆𝑛的条件下消息𝐸𝑛中包含的关于消息𝑆𝑛+1的信息量
    从环境流向个体的新信息
    个体受环境控制的程度

    第二种分解 环境驱动(Environmentally driven)

    𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛) = 𝐼(𝑆𝑛+1;𝐸𝑛) + 𝐼(𝑆𝑛+1;𝑆𝑛|𝐸𝑛)
    𝐼(𝑆𝑛+1;𝐸𝑛)
    消息𝐸𝑛和消息𝑆𝑛+1之间的互信息量
    环境的影响
    𝐼(𝑆𝑛+1;𝑆𝑛|𝐸𝑛)
    给定消息𝐸𝑛的条件下消息𝑆𝑛中包含的关于消息𝑆𝑛+1的信息量
    自身的影响

    更细粒的尺度

    𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛)
    在时间 𝑛+1 时,未来个体状态 𝑆𝑛+1 和上一个时间段的系统自身(前代)𝑆𝑛 和 环境信息 𝐸𝑛 的联合状态之间的互信息

    𝐼(𝑆𝑛+1;𝐸𝑛,𝑆𝑛) 的分解

    a 个体信息 𝑈𝐼(𝑆𝑛+1;𝑆𝑛∖𝐸𝑛):只来自个体自身并由系统自身维持;
    b 共享信息 𝑆𝐼(𝑆𝑛+1,𝑆𝑛,𝐸𝑛):个体和环境之间共享的信息;
    c 环境信息 𝑈𝐼(𝑆𝑛+1;𝐸𝑛∖𝑆𝑛):环境对个体影响的信息,狭义上即感官的信息流;
    d 交互信息 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛):协同信息,只存于个体系统和环境的交互作用中。

    有机个体(Organismal Individuality)

    有机个体 = 共享信息 + 个体信息
    𝐴∗ :=𝐼(𝑆𝑛+1;𝑆𝑛) = 𝑆𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) + 𝑈𝐼(𝑆𝑛+1;𝑆𝑛∖𝐸𝑛)
    当生物体能通过适应或学习与所处的环境共享重要信息时,它们就具有良好的适应性。
    此外有机个体还包含了有效运作时所需要的大量私有信息
    通过最大化这种度量,我们能够在环境中识别出复杂的有机个体。

    环境驱动个体(Environmental Determined Individuality)

    环境驱动个体 = 交互信息 + 环境信息
    𝑛𝐶 = 𝐼(𝑆𝑛+1;𝐸𝑛|𝑆𝑛) = 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) + 𝑈𝐼(𝑆𝑛+1;𝐸𝑛∖𝑆𝑛)
    这个指标量化了个体在时间演化中被环境决定的程度。
    当度量降到最低时,个体环境完全不敏感,因此既不具有有机体的形式,也不具有群落个体的形式,没有任何实质意义上适应性。
    它通过与生成结构的系统的 交互作用,表征了环境记忆的持久性,例如产生漩涡的流体中的温度梯度。

    群落个体(Colonial Individuality)

    群落个体 = 交互信息 + 个体信息
    𝐴 := 𝐼(𝑆𝑛+1;𝑆𝑛|𝐸𝑛) = 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) + 𝑈𝐼(𝑆𝑛+1;𝑆𝑛∖𝐸𝑛)
    许多生物体,如微生物,只与它们所处的环境共享少量的信息。
    它们含有调节机制,与生物和非生物环境之间的持续交互作用来实现适应。
    通过最大化这种度量,我们能够识别出这种 "环境调节的聚合体",即群落个体。

    环境编码

    环境编码 = 共享信息 - 交互信息
    𝑁𝑇𝐼𝐶 = 𝑆𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛) - 𝐶𝐼(𝑆𝑛+1;𝑆𝑛,𝐸𝑛)
    有机个体和有机个体之间的差异

    相关文章

      网友评论

          本文标题:个体信息理论 笔记

          本文链接:https://www.haomeiwen.com/subject/qhrlohtx.html