数据预处理

总

数据预处理包括数据清洗、无量纲化、特征分桶、统计变换和特征编码等步骤，

数据清洗

无量纲化

说明

一般而言，原始的训练数据中，每一维特征的来源以及度量单位不同，会造成特征的分布范围往往差异很大。当计算不同样本之间的距离时，取值范围大的特征会起到主导作用。对于基于相似度比较的机器学习方法(如最近邻分类器)，必须先对样本进行预处理，将各维度特征归一化到同一取值区间，并且消除不同特征之间的相关性，才能获得理想的结果。

我们的数据一般都是有单位的，比如身高的单位有m，cm，这个无量纲化并不是说把m变成cm，而是说，无论是m还是cm，最后都会变成1，也就是没有了单位。

无量纲化使不同规格的数据转换到同一规格。常见的无量纲化方法有标准化和归一化。

数据标准化的原因：

• 某些算法要求样本具有零均值和单位方差；

• 需要消除样本不同属性具有不同量级时的影响。

• 归一化有可能提高精度；

  数量级的差异将导致量级较大的属性占据主导地位，从而与实际情况相悖（比如这时实际情况是值域范围小的特征更重要）；

• 数量级的差异将导致迭代收敛速度减慢；

  当使用梯度下降法寻求最优解时，很有可能走“之字型”路线（垂直等高线走），从而导致需要迭代很多次才能收敛；

• 依赖于样本距离的算法对于数据的数量级非常敏感。

归一化方法	缩放范围&公式	说明
标准归一化StandardScaler	无范围	适合于正态分布数据
最大最小归一化MinMaxScaler	[0,1]	缩放稀疏数据，对异常值敏感
MaxAbs归一化	[-1,1]	缩放稀疏数据，对异常值敏感
RobustScaler分位数归一化	无范围	缩放带有outlier的数据

适用场景

• 在分类、聚类算法中，需要使用距离来度量相似性的时候（如SVM、KNN）、或者使用PCA技术进行降维的时候，标准化(Z-score standardization)表现更好；

• 在不涉及距离度量、协方差计算、数据不符合正太分布的时候，可以使用第一种方法或其他归一化方法。

  比如图像处理中，将RGB图像转换为灰度图像后将其值限定在[0 255]的范围；

• 基于树的方法不需要进行特征的归一化。

  例如随机森林，bagging与boosting等方法。

  如果是基于参数的模型或者基于距离的模型，因为需要对参数或者距离进行计算，都需要进行归一化。

一般来说，建议优先使用标准化。对于输出有要求时再尝试别的方法，如归一化或者更加复杂的方法。很多方法都可以将输出范围调整到[0, 1]，如果我们对于数据的分布有假设的话，更加有效的方法是使用相对应的概率密度函数来转换。

标准归一化StandardScaler

标准化的前提是特征值服从正态分布，标准化后，其转换成标准正态分布。

公式为：

优点：

Z-Score最大的优点就是简单，容易计算，Z-Score能够应用于数值型的数据，并且不受数据量级的影响，因为它本身的作用就是消除量级给分析带来的不便。

缺点：

• 估算Z-Score需要总体的平均值与方差，但是这一值在真实的分析与挖掘中很难得到，大多数情况下是用样本的均值与标准差替代；

• Z-Score对于数据的分布有一定的要求，正态分布是最有利于Z-Score计算的；

• Z-Score消除了数据具有的实际意义，A的Z-Score与B的Z-Score与他们各自的分数不再有关系，因此Z-Score的结果只能用于比较数据间的结果，数据的真实意义还需要还原原值；

• 在存在异常值时无法保证平衡的特征尺度。

最大最小归一化MinMaxScaler

区间缩放法利用了边界值信息，将属性缩放到[0,1]。公式为：

缺点：

• 是当有新数据加入时，可能导致max和min的变化，需要重新定义；

• MinMaxScaler对异常值的存在非常敏感。

MaxAbs归一化

单独地缩放和转换每个特征，使得训练集中的每个特征的最大绝对值将为1.0，将属性缩放到[-1,1]。它不会移动/居中数据，因此不会破坏任何稀疏性。

公式为：

缺点：

• 当有新数据加入时，可能导致max和min的变化，需要重新定义；

• 在仅有正数据时，该缩放器的行为MinMaxScaler与此类似，因此也存在大的异常值。

RobustScaler分位数归一化

公式为：（x-中位数）/四分位距

规范化（正则化）

正则化的过程是将每个样本缩放到单位范数，如果要使用二次型（点积）或者其他核方法计算两个样本之间的相似性会非常有用。

离散化（分箱）

离散化是数值型特征非常重要的一个处理，其实就是要将数值型数据转化成类别型数据。连续值的取值空间可能是无穷的，为了便于表示和在模型中处理，需要对连续值特征进行离散化处理。

分箱的重要性及其优势：

• 离散特征的增加和减少都很容易，易于模型的快速迭代；

• 稀疏向量内积乘法运算速度快，计算结果方便存储，容易扩展；

• 离散化后的特征对异常数据有很强的鲁棒性；

  比如一个特征是年龄>30是1，否则0。

  如果特征没有离散化，一个异常数据“年龄300岁”会给模型造成很大的干扰；

• 对于线性模型，表达能力受限；

  单变量离散化为N个后，每个变量有单独的权重，相当于模型引入了非线性，能够提升模型表达能力，加大拟合；

• 离散化后可以进行特征交叉，由M+N个变量变为M*N个变量，进一步引入非线性，提升表达能力；

• 特征离散化后，模型会更稳定；

  比如如果对用户年龄离散化，20-30作为一个区间，不会因为一个用户年龄长了一岁就变成一个完全不同的人。

  当然处于区间相邻处的样本会刚好相反，所以怎么划分区间是门学问；

• 特征离散化以后，起到了简化了逻辑回归模型的作用，降低了模型过拟合的风险；

• 可以将缺失作为独立的一类带入模型；

• 将所有变量变换到相似的尺度上。

1.无监督分箱法

1）自定义分箱

自定义分箱，是指根据业务经验或者常识等自行设定划分的区间，然后将原始数据归类到各个区间中。

2）等距分箱

定义：按照相同宽度将数据分成几等份。

从最小值到最大值之间,均分为 N 等份, 这样, 如果 A,B 为最小最大值, 则每个区间的长度为 W=(B−A)/N , 则区间边界值为A+W,A+2W,….A+(N−1)W 。这里只考虑边界，每个等份里面的实例数量可能不等。

缺点：受异常值影响大

3）等频分箱

定义：将数据分成几等份，每等份数据里面的个数是一样的。

区间的边界值要经过选择,使得每个区间包含大致相等的实例数量。比如说 N=10 ,每个区间应该包含大约10%的实例。

4）聚类分箱

定义

基于k均值聚类的分箱：k均值聚类法将观测值聚为k类，但在聚类过程中需要保证分箱的有序性：第一个分箱中所有观测值都要小于第二个分箱中的观测值，第二个分箱中所有观测值都要小于第三个分箱中的观测值，等等。

实现步骤

• Step 0：

  对预处理后的数据进行归一化处理；

• Step 1：

  将归一化处理过的数据，应用k-means聚类算法，划分为多个区间：

  采用等距法设定k-means聚类算法的初始中心，得到聚类中心；

• Step 2：

  在得到聚类中心后将相邻的聚类中心的中点作为分类的划分点，将各个对象加入到距离最近的类中，从而将数据划分为多个区间；

• Step 3：

  重新计算每个聚类中心，然后重新划分数据，直到每个聚类中心不再变化，得到最终的聚类结果。

实现代码

from sklearn.cluster import KMeans
kmodel=KMeans(n_clusters=k)  #k为聚成几类
kmodel.fit(data.reshape(len(data),1))) #训练模型
c=pd.DataFrame(kmodel.cluster_centers_) #求聚类中心
c=c.sort_values(by=’列索引') #排序　　
w=pd.rolling_mean(c,2).iloc[1:] #用滑动窗口求均值的方法求相邻两项求中点，作为边界点
w=[0] +list(w[0] + [ data.max() ]  #把首末边界点加上
d3= pd.cut(data,w,labels=range(k)) #cut函数</pre>

5）二值化（Binarization）

定义

二值化可以将数值型（numerical）的feature进行阀值化得到boolean型数据。这对于下游的概率估计来说可能很有用（比如：数据分布为Bernoulli分布时）。

公式

定量特征二值化的核心在于设定一个阈值，大于阈值的赋值为1，小于等于阈值的赋值为0，

2.有监督分箱法

1）卡方分箱法

定义

自底向上的(即基于合并的)数据离散化方法。它依赖于卡方检验：具有最小卡方值的相邻区间合并在一起,直到满足确定的停止准则。

基本思想

对于精确的离散化，相对类频率在一个区间内应当完全一致。因此,如果两个相邻的区间具有非常类似的类分布，则这两个区间可以合并；否则，它们应当保持分开。而低卡方值表明它们具有相似的类分布。

实现步骤

• Step 0：

  预先定义一个卡方的阈值；

• Step 1：

  初始化；

  根据要离散的属性对实例进行排序，每个实例属于一个区间；

• Step 2：

  合并区间；

• 计算每一对相邻区间的卡方值；

• 将卡方值最小的一对区间合并；

Aij：第i区间第j类的实例的数量；Eij：Aij的期望频率（=(Ni*Cj)/N），N是总样本数，Ni是第i组的样本数，Cj是第j类样本在全体中的比例；

阈值的意义

类别和属性独立时,有90%的可能性,计算得到的卡方值会小于4.6。大于阈值4.6的卡方值就说明属性和类不是相互独立的，不能合并。如果阈值选的大,区间合并就会进行很多次,离散后的区间数量少、区间大。

注意

• ChiMerge算法推荐使用0.90、0.95、0.99置信度，最大区间数取10到15之间；

• 也可以不考虑卡方阈值，此时可以考虑最小区间数或者最大区间数。

  指定区间数量的上限和下限，最多几个区间,最少几个区间；

• 对于类别型变量，需要分箱时需要按照某种方式进行排序。

实现代码

https://github.com/tatsumiw/ChiMerge/blob/master/ChiMerge.py

2）最小熵法分箱

需要使总熵值达到最小，也就是使分箱能够最大限度地区分因变量的各类别。

熵是信息论中数据无序程度的度量标准，提出信息熵的基本目的是找出某种符号系统的信息量和冗余度之间的关系，以便能用最小的成本和消耗来实现最高效率的数据存储、管理和传递。 数据集的熵越低，说明数据之间的差异越小，最小熵划分就是为了使每箱中的数据具有最好的相似性。给定箱的个数，如果考虑所有可能的分箱情况，最小熵方法得到的箱应该是具有最小熵的分箱。

总结

1. 特征预处理是数据预处理过程的重要步骤，是对数据的一个的标准的处理，几乎所有的数据处理过程都会涉及该步骤。

2. 我们对特征进行分箱后，需要对分箱后的每组（箱）进行woe编码和IV值的计算，通过IV值进行变量筛选后，然后才能放进模型训练。

3. 分箱后需要进行特征编码，如：

   LabelEncode、OneHotEncode或LabelBinarizer等。

链接

https://mp.weixin.qq.com/s/qWO9zgKyntvyWfftpGqrHQ