隐马尔科夫模型
三个基本问题
重点看第一和第三,因为这两个有实例。
- 给定模型和观测序列,求观测序列在该模型下的概率
- 给定模型和观测序列,求最优状态序列
问题1
给定模型和观测序列,求观测序列在该模型下的概率
字母的含义及解释
A,B,PI的含义见第一张图
- Q是状态集合,其实可以理解成盒子的集合,有三个盒子,每个盒子里有红、白两种球,每次从盒子里面拿球。
- B是观测概率矩阵,第i行第一列表示从第i个盒子里取出红球的概率是多- 少;第i行第一列表示从第i个盒子里取出红球的概率是多少
- A是状态转移概率矩阵,可以理解成盒子转移概率矩阵,第i行第j列表示从第i个盒子转移到第j个盒子的概率。
第一步
计算第一次从每个盒子中取出红球的概率,这一步需要乘以初始状态概率向量,也就是PI,向量中第i个元素的含义是第一次取球的盒子是盒子i的概率。后面就不需要这个矩阵了,因为有状态转移矩阵决定下一个盒子是哪个。第二步
计算第二次从第每个盒子中取出白球的概率 计算第三次从每个盒子中取出红球的概率第三步
将最后求出的三个概率相加问题2
给定模型和观测序列,求最优状态序列
第一个问题是求观测序列的概率,而这个是求最优状态序列,也就是求使得观测序列({红,白,红})出现概率最大的盒子序列。
此处引入维特比算法求解该问题。
启发
写完了之后再回头看我的命名实体识别任务,突然受到启发。参考资料
[1] 李航《统计学习方法》
网友评论