机器学习笔记-01-概述

本系列文章记录下自己学习机器学习的一些想法和总结，可能会有一些不够准确地方，希望可以和大家一起交流学习，共同进步。文章会不定期进行维护更新，尽可能保证内容的准确。

本篇作为开篇，只简单聊下相关的概念。
接下来的系列文章，将详细讲线性回归、逻辑回归的一些细节，线性模型，广义线性模型，推导常见机器学习模型的预测函数和损失函数等内容。

1. 机器学习(Machine Learning)定义

从不同角度可以有不同的定义，Tom Mitchell（1998）首次对机器学习进行了准确详细的定义：

A computer program is said to learn from experience E with respect to some task T and some performance measure P. If its performance on T as measured by P ,improves with experience E.
对于某类任务T和性能度量P，如果一个计算机程序在T上以P衡量的性能随着经验E而自我完善，那么我们称这个计算机程序在从经验E学习。因此关键在于：计算机程序如何自动积累经验而提高性能。

2. 机器学习的模型

如果把训练模型看做一个建模的过程，机器学习可以很好利用已有的数据，得到的一个模型可以对未知的数据进行较好的预测。
所以机器学习的核心在于如何建模以及如何求解模型参数。

3. 机器学习的任务和分类

机器学习的任务包括回归（输出是连续的）和分类（输出是离散的）；
主要分为监督（Supervised）学习、无监督（Unsupervised）学习和强化（Reinforcement）学习。