统计学习的目的：

统计学习或者机器学习用于对数据进行分析与预测，特别是对未知的数据进行预测与分析，一般分为监督学习，无监督学习，强化学习。

监督学习

输入空间：输入的所有可能取值

输出空间：输出的所有可能取值

特征空间：由特征向量组成

监督学习从训练数据中学习模型，将学习到的模型应用到测试数据上面进行预测

*联合概率分布：监督学习假设，出入变量X与输出变量Y遵循联合概率分布