统计模式识别

机器视觉原理与案例详解
工控帮教研组编著
电子工业出版社
2020.7
ISBN 978-7-121-39084-5

一、统计模式识别

• 统计模式识别主要是利用贝叶斯决策规则解决最优分类器的问题。
  统计模式识别的基本思想是在不同的模式类型中建立一个决策函数，利用决策函数把一个给定的模式归入相应的模式类型中。

二、优缺点

• 优点
  由于统计模式识别基于对模式的统计方法实现（模式的统计方法发展较早，并且技术比较成熟，在处理过程中能充分考虑干扰、噪声等影响），因此，统计模式识别的功能较强。

• 缺点
  在应用统计模式识别时，若统计的数量较大（对于结构复杂的模式），则较难提取模式特征；
  若统计的数据量较小，则不能提取能够反映整体模式的特征，难以归纳模式的性质。

三、缺点解决方法

• 在统计模式识别中，贝叶斯决策规则从理论上解决了分类器的设计问题。
  但在实际应用中，利用贝叶斯决策规则来计算条件概率是非常困难的，因为条件概率一般是未知的，必须从数据样本中估计出来。
• 计算条件概率时，受制于样本的数量：若样本数量太少，则不能表示要研究的某类问题；
  若样本数量太多，则会给数据采集造成一定的麻烦，而且增大了计算量。
  为此人们提出了各种解决方法。

四、最大似然估计和贝叶斯估计

• 这两种方法的前提条件是，各类别的条件概率密度的形式已知，而参数未知。
  在此情况下，可对现有的样本进行参数估计。
  参数估计在统计学中是很经典的算法，而最大似然估计和贝叶斯估计是参数估计中的常用方法：
  最大似然估计是把待估参数看成确定性的量，只是其取值未知，最大似然估计寻找的是能够将训练样本解释得最好的那个参数值；
  贝叶斯估计把待估参数看成符合某种先验概率分布的随机变量，而训练样本的作用是把先验概率转化为后验概率。
• 在实际生活中，因为最大似然估计更易实现，在样本数据充足的情况下，得到的分类器效果较好，所以，相对贝叶斯估计而言，最大似然估计的应用较多。

五、监督参数统计法

• k近邻查询：
  k近邻查询是模式识别的标准算法之一。其基本原理是，先将已分好类的训练样本记入多维空间，并将待分类的未知样本记入空间；然后，分析未知样本的 k个近邻，若近邻中的某一类样本最多，则可将未知样本判为该类。
• Fisher判别分析法：
  Fisher判别分析法的基本原理是，将多维空间样本点的图像投影到二维或一维空间中。
  选择投影方向的原则是使两类样本点尽可能地分开。通过投影方向得到两类点分开的最佳方向，并张成二维平面，从而形成二维分类图。此时，垂直于分界线的法线代表使样本向一类或二类转化的方向。

六、其他

• 此外，统计模式识别还包括线性判别函数法、非线性判别函数法、特征分析法、主因子分析法等。