1、HMM问题一：求观测序列问题（直接计算）

首先我们回顾下HMM模型的问题一。这个问题是这样的。我们已知HMM模型的参数λ=(A,B,Π)。其中A是隐藏状态转移概率的矩阵，B是观测状态生成概率的矩阵， Π是隐藏状态的初始概率分布。同时我们也已经得到了观测序列O={o1,o2,...oT},现在我们要求观测序列O在模型λ下出现的条件概率P(O|λ)。
我们可以列举出所有可能出现的长度为T的隐藏序列I={i1,i2,...,iT},分布求出这些隐藏序列与观测序列O={o1,o2,...oT}的联合概率分布P(O,I|λ)，这样我们就可以很容易的求出边缘分布P(O|λ)了。

虽然上述方法有效，但是如果我们的隐藏状态数N非常多的那就麻烦了，此时我们预测状态有NT种组合，算法的时间复杂度是O（（2T-1）N^T),因此对于一些隐藏状态数极少的模型，我们可以用暴力求解法来得到观测序列出现的概率，但是如果隐藏状态多，则上述算法太耗时，我们需要寻找其他简洁的算法.
前向后向算法就是来帮助我们在较低的时间复杂度情况下求解这个问题的。

2、用前向算法求HMM观测序列的概率

前向后巷算法是前向算法和后向算法的统称，这两个算法都可以用来求HMM观测序列的概率。我们先来看看前向算法是如何求解这个问题的。

在前向算法中，通过定义“前向概率”来定义动态规划的这个局部状态。什么是前向概率呢？

定义：定义时刻t时隐状态为qi，观测状态为的序列为o1,o2,....,ot的概率为前向概率。记为：
既然是动态规划，我们就要递推了，现在我们假设我们已经找到了在时刻t时各个隐藏状态的前向概率，现在我们需要递推出时刻t+1时各个隐藏状态的前向概率。

从下图可以看出，我们可以基于时刻t时各个隐藏状态的前向概率，再乘以对应的状态转移概率，即αt(j)aji就是在时刻t观测到o1,o2,...ot，并且时刻t隐藏状态qj, 时刻t+1隐藏状态qi的概率。如果将想下面所有的线对应的概率求和，即

就是在时刻t观测到o1,o2,...ot，并且时刻t+1隐藏状态qi的概率。继续一步，由于观测状态ot+1只依赖于t+1时刻隐藏状态qi, 这样 就是在在时刻t+1观测到o1,o2,...ot，ot+1，并且时刻t+1隐藏状态qi的概率。而这个概率，恰恰就是时刻t+1对应的隐藏状态i的前向概率
前向概率公式推导：

总结一下前向算法：
输入：HMM模型λ=(A,B,Π)，观测序列O=(o1,o2,...oT)
输出：观测序列概率P(O|λ)
1）计算时刻1的各个隐藏状态前向概率：

2. 递推时刻2,3,...T时刻的前向概率：

3. 由联合概率分布和边缘概率分布的关系，计算最终结果：

   
   

3. HMM前向算法求解实例

我们的观察集合是:
我们的状态集合是：
而观察序列和状态序列的长度为3.
初始状态分布为：
状态转移概率分布矩阵为：
观测状态概率矩阵为：
球的颜色的观测序列:
按照我们上一节的前向算法。首先计算时刻1三个状态的前向概率：
时刻1是红色球，隐藏状态是盒子1的概率为：
隐藏状态是盒子2的概率为：
隐藏状态是盒子3的概率为：
现在我们可以开始递推了，首先递推时刻2三个状态的前向概率：
时刻2是白色球，隐藏状态是盒子1的概率为：
隐藏状态是盒子2的概率为：
隐藏状态是盒子3的概率为：
继续递推，现在我们递推时刻3三个状态的前向概率： 时刻3是红色球，隐藏状态是盒子1的概率为：
隐藏状态是盒子2的概率为：
隐藏状态是盒子3的概率为：
最终我们求出观测序列:O={红，白，红}的概率为：

下一章节将介绍后向算法