数据预测与估算是在数据之上构建数据模型的算法应用，来源于对历史数据的学习和推断，得出数据之间的相关性，从而对未来的数据行为进行预测或对当前行为进行决策。

7.1 产生式模型与判别式模型

产生式模型和判别式模型都是机器学习算法中监督学习的模型概念，对于输入X和输出Y，它们的区别在于：产生式模型估算联合概率P(X,Y)，判别式模型估算条件概率P(Y|X)，产生式模型可以通过转换得到判别式模型，但判别式模型不能转换为产生出模型。

产生式模型的优缺点：

优：数据信息相对丰富，研究单类别问题灵活性较强。能够充分利用先验数据。模型可以通过增量学习的方式获得。

缺：学习过程相对比较复杂。在目标分类的问题中容易产生较大的错误率。

判别式模型的优缺点：

优：分类边界比较灵活，适用于多类别问题研究。能够较好地分辨出类别之间的差异特征。

缺：不能反映训练样本的本身特性。描述信息具备一定局限性。

常见产生式模型：朴素贝叶斯，隐马尔可夫模型，条件随机场，混合高斯模型等；

常见判别式模型：支持向量机，逻辑回归，神经网络，最大熵模型等。

相对而言，判别式模型的计算性能略优于产生式模型。