最简单的线性模型, 只能表现线性输入输出函数, 不能很好地与非线性函数近似, 解决实际问题上并无太大价值:

实际应用中常对线性模型进行扩展, 使其变为基于参数的线性模型, 用线性模型表示非线性输入:
(注意: 因为手敲黑体latex公式较费时, 黑体格式向量简写为普通体, 大家看到类似形式相乘的公式, 就默认是对应的都是向量就好了).
基于数据的简单线性模型:
基于参数的线性模型:
上式中, 是基函数
的第j个因子,
的第j个因子.
举例: 基函数为多项式的线性模型 :
常见的基函数:
- 多项式:
- 高斯:
- sigmoid:
, 其中
- tanh:
下图分别展示了多项式基函数, 高斯基函数和sigmoid基函数的图像:

后续关于线性模型的描述都基于这个最广义的基于参数的线性模型.
网友评论