两大机器学习模式:有监督学习和无监督学习
有监督学习 :通过现有的数据(训练数据集)进行建模,再使用训练出来的模型对新的数据进行分类或者回归分析的学习方法。 说人话:训练数据集一般包含样本的特征变量 和 分类标签,在这个过程中使用不同的机器算法通过这些训练数据推断出分类的方法并且运用于新的样本中,这就是整个监督学习的过程。
无监督学习:在没有 训练数据集 的情况下,对没有标签的数据进行分析并建立合适的模型,从而给出问题解决方案的方法。
无监督学习中的常见基本概念:
聚类和数据转换
在无监督学习中,最常见的两类任务类型是 数据转换 和 聚类分析。
数据转换:很多数据集原始的面目是十分复杂的(比如特征变量十分之多),若想从中提取有用的信息就需要先把这些复杂的数据通过无监督学习的一些算法进行转换,使其变得容易理解。常见的数据转换方法就是 数据降维,即通过对特征变量较多的数据集进行分析,将无关紧要的特征变量进行剔除,保留关键的特征变量。【例如,将数据集的降至二维,这样就可以方便的进行数据可视化处理。】
聚类:通过把样本划归到不同的分组的算法,每个分组中的元素都具有比较接近的特征。
有监督学习中的常见基本概念:
回归和分类
“回归和分类是有监督学习中最常见的两个方法。”
分类:对于分类来讲,机器学习的目标是对样本的标签进行预测,判断样本属于哪一个分类,结果是离散的(离散:连续的反义词就是离散 ,就是不连续)。 举个小例子:某食品公司研发出了一款新的饼干,如果用算法模型来预测大众对这个未上市的新产品的接受度时,可以将之前的饼干分为“大家喜欢“和”大家不喜欢”,这是属于“二元分类”。如果将之前的饼干产品分为“大家很喜欢”、“大家比较喜欢”、“大家有点不喜欢”、“大家很不喜欢”四种类型,就属于多元分类,这个结果就是离散的特征,需要用分类的方法来处理。
回归:对于回归来讲,机器学习的目标是要预测一个连续的数值或者是范围。 再来一个例子:将上面的例子稍微改一下,不分类,换成打分。通过调查搜集用户对此食品公司之前饼干产品的打分数据,将此 打分数据 结合 饼干的特征 作为训练数据集,通过回归建模,就可以预测消费者对这款产品未来上市时的评价了。
模型的泛化、过拟合、欠拟合
在有监督学习中,使用训练数据集创建一个模型,之后把这个模型用于新的之前从未用过见过的数据中,这个过程就成为泛化。直白点讲,就是将训练出来的模型进行实际应用。
“如何来评价一个模型的泛化准确度?” ---- 使用 试数据集 对模型的表现进行评估。 如果在训练数据集上使用了一个非常复杂的模型,以至于这个模型在拟合数据的时候表现非常好,但是在测试数据集的表现非常差,就说明模型发生了过拟合【overfitting】的问题。 反之,如果模型非常简单,连训练数据集的特点都不能完全考虑到的话,那么这个模型在训练数据集和测试数据集的得分都会非常差,这就说模型出现了欠拟合【underfitting】问题。
网友评论