美文网首页
概率无向图与条件随机场(二)

概率无向图与条件随机场(二)

作者: 加油11dd23 | 来源:发表于2020-02-10 19:56 被阅读0次

前面介绍了一些基本定义,现在更深度介绍一下相关内容。

一、概率无向图的因子分解

(一)基本概念

1、团:无向图 G 中任何两个结点均有边连接的结点子集称为团(clique)

(1)无向图

(2)任意两个节点均有边连接

(3)节点子集

2、最大团 :C 是无向图 G 的一个团,并且不能再加进任何一个 G 的结点使其成为一个更大的团,则称此 C 为最大团(maximal clique)。

(二)因子分解

将概率无向图模型的联合概率分布表示为其最大团上的随机变量的函数的乘积形式的操作,称为概率无向图模型的因子分解。

设无向图为 G , C 为 G 上的最大团, YCYC表示 C 对应的随机变量。那么概率无向图模型的联合概率分布 P(Y)P(Y) 可分解为图中所有最大团 C 上的函数 ΨC(YC)ΨC(YC) 的乘积形式,分解后的因子图如 (b) 所示,每个黑色的正方形便代表一个函数,图中将无向图拆分为两个最大团上势函数的乘积,具体的拆分公式为:

其中,Z 是规范化因子(normalization factor),形式如下:

上面两个公式也即 Hammersley-Clifford定理 。

二、条件随机场

看到现在,直接给出一些公式应该也能看懂了

剩下其实还有很多进阶,比如条件随机场参数表示、矩阵表示,概率计算、估计参数、推断,具体见李航《》统计学习方法。

参考:

https://blog.csdn.net/a819825294/article/details/53893231

https://www.zhihu.com/question/35866596

https://www.jianshu.com/p/55755fc649b1

相关文章

  • 概率无向图与条件随机场(二)

    前面介绍了一些基本定义,现在更深度介绍一下相关内容。 一、概率无向图的因子分解 (一)基本概念 1、团:无向图 G...

  • 概率无向图与条件随机场(一)

    最近看《统计学习方法》,其中有一些内容没接触过,现在简单描写一下。 一、概率无向图 其实就是把一个联合概率P(X1...

  • CRF

    概率图 概率图结构 以上图中可以看出,CRF属于无向图模型,由马尔可夫随机场衍化而来,这里注意隐马尔可夫属于有向图...

  • NLP进阶 CRF深入理解

    介绍 说起概率无向图模型,一般会想到CRF(条件随机场)和ME(最大熵模型),此两种从不同的角度都可以拿来用于...

  • Day 682:机器学习笔记(11)

    CRF 用无向图表示的联合概率分布称为概率无向图模型,CRF(Conditional Random Field)就...

  • CRF:Conditional Random Fields

    概率无向图模型: 又称作马尔科夫随机场。所谓随机场,其实是由一种服从某种分布的随机变量组成的,场中某些点之间存在依...

  • Transformer面试基础:

    HMM 和 CRF 区别: 1.HMM是生成模型,CRF是判别模型 2.HMM是概率有向图,CRF是概率无向图 3...

  • 条件概率

    条件概率定义 条件概率是局部概率 条件概率是概率 乘法公式 相交概率与条件概率

  • 71_图的定义与操作

    关键词:图的定义、无向边与无向图、无向边与无向图、顶点邻接(Adjacent)的定义、度(Degree)的定义、 ...

  • NLP系列学习:CRF条件随机场(1)

    大家好,今天让我们来看看条件随机场,条件随机场是一项大内容,在中文分词里广泛应用,因为我们在之前的文章里将概率图模...

网友评论

      本文标题:概率无向图与条件随机场(二)

      本文链接:https://www.haomeiwen.com/subject/bbdzxhtx.html