x=[n*m]型矩阵数据,n是样本数,m是变量维数;
*********************************基本公式************************************
均值:每一列的均值
mean(xj)=(xj1+xj2+...+xjn)/n
方差:计算每一列的方差
var(xj)=[(xj1-mean(xj))^2+(xj2-mean(xj))^2+...+(xjn-mean(xj))^2]/n
标准差:方差的开方
std=var(xj)^1/2
协方差:变量xj和xk之间协方差
cov(xj, xk)=[(xj1-mean(xj))*(xk1-mean(xk))+...+(xjn-mean(xj))*(xkn-mean(xk))]/n
相关系数:变量xj和xk之间的相关系数 ,反映两个变量的相似程度0~1;
r(xj , xk)=cov(xj , xk)/[std(xj)*std(xk)]
向量内积:变量x和y之间的内积
(x1y1+x2y2+...+xmym)
向量x,y之间的夹角:内积/(模x*模y)
内积和夹角之间的关系(x1y1+x2y2+...+xmym)/ [(x1^2+x2^2+...+xm^2)^1/2 * (y1^2+y2^2+...+ym^2)^1/2]
***********************************基本处理********************************
数据中心化:均值为0,中心在原点
Xij=xij-mean(xj)
数据无量纲化:各种无量纲方法,对数据压缩
Xij=xij/std(xj)
Xij=xij/max(xj)
Xij=xij/min(xj)
Xij=xij/mean(xj)
Xij=xij/[max(xj)-min(xj)]
数据归一化:其实和上面无量纲一个意思,对数据中心化和压缩
Xij=[xij-min(xj)]/[max(xj)-min(xj)]
数据标准化:标准化是对数据每列样本数进行标准化,均值为0,方差为1;标准化的目的是对数据进行中心化和压缩
Xij=(xij-mean(xj))/std(xj)
变量归一化(单位圆化):对每个样本进行归一化(变量间归一化),中心在原点,距离为1;注意这里是对每一行进行归一化,每个样本的模为1;
Xij=xij/(xi1^2+xi2^2+...+xim^2)^1/2
说明:因该针对不同的问题,采用不同数据处理方法,不能盲目用以上方法,比如:归一化是对列还是对行进行处理,需要看数据针对的问题。
心得:单位圆化后的两个向量的夹角=其内积
补充:测定系数R^2(多元回归中叫复测定系数),对回归方程的一个评价指标。(参考偏最小二乘回归的线性与非线性方法(书.王惠文))
网友评论