三种常用数据标准化方法

作者: 半亩房顶 | 来源:发表于2019-01-10 11:30 被阅读103次

引入

评价是现代社会各领域的一项经常性的工作,是科学做出管理决策的重要依据。随着人们研究领域的不断扩大,所面临的评价对象日趋复杂,如果仅依据单一指标对事物进行评价往往不尽合理,必须全面地从整体的角度考虑问题,多指标综合评价方法应运而生。所谓多指标综合评价方法,就是把描述评价对象不同方面的多个指标的信息综合起来,并得到一个综合指标,由此对评价对象做一个整体上的评判,并进行横向或纵向比较。

而在多指标评价体系中,由于各评价指标的性质不同,通常具有不同的量纲和数量级。当各指标间的水平相差很大时,如果直接用原始指标值进行分析,就会突出数值较高的指标在综合分析中的作用,相对削弱数值水平较低指标的作用。因此,为了保证结果的可靠性,需要对原始指标数据进行标准化处理。

目前数据标准化方法有多种,归结起来可以分为直线型方法(如极值法、标准差法)、折线型方法(如三折线法)、曲线型方法(如半正态性分布)。不同的标准化方法,对系统的评价结果会产生不同的影响,然而不幸的是,在数据标准化方法的选择上,还没有通用的法则可以遵循。

数据的标准化(normalization)是将数据按比例缩放,使之落入一个小的特定区间。在某些比较和评价的指标处理中经常会用到,去除数据的单位限制,将其转化为无量纲的纯数值,便于不同单位或量级的指标能够进行比较和加权。其中最典型的就是数据的归一化处理,即将数据统一映射到[0,1]区间上,常见的数据归一化的方法有:min-max标准化(Min-max normalization),log函数转换,atan函数转换,z-score标准化(zero-mena normalization,此方法最为常用),模糊量化法。本文只介绍min-max法(规范化方法),z-score法(正规化方法),比例法(名字叫啥不太清楚,归一化方法)。

1、min-max标准化(Min-maxnormalization)

也叫离差标准化,是对原始数据的线性变换,使结果落到[0,1]区间,转换函数如下:


离差标准化
  • 其中max为样本数据的最大值,min为样本数据的最小值。
  • 这种方法有一个缺陷就是当有新数据加入时,可能导致max和min的变化,需要重新定义。

2、log函数转换

通过以10为底的log函数转换的方法同样可以实现归一下,具体方法看了下网上很多介绍都是x=log10(x),其实是有问题的,这个结果并非一定落到[0,1]区间上,应该还要除以log10(max)*,max为样本数据最大值,并且所有的数据都要大于等于1。

3、atan函数转换

用反正切函数也可以实现数据的归一化,使用这个方法需要注意的是如果想映射的区间为[0,1],则数据都应该大于等于0,小于0的数据将被映射到[-1,0]区间上。

4、z-score 标准化(zero-meannormalization)

而并非所有数据标准化的结果都映射到[0,1]区间上,其中最常见的标准化方法就是Z标准化;也是SPSS中最为常用的标准化方法,也叫标准差标准化

z-score 标准化
  • 这种方法基于原始数据的均值(mean)和标准差(standard deviation)进行数据的标准化。将A的原始值x使用z-score标准化到x’。
  • z-score标准化方法适用于属性A的最大值和最小值未知的情况,或有超出取值范围的离群数据的情况。
  • spss默认的标准化方法就是z-score标准化。
  • 用Excel进行z-score标准化的方法:在Excel中没有现成的函数,需要自己分步计算,其实标准化的公式很简单。

步骤如下:
1.求出各变量(指标)的算术平均值(数学期望)xi和标准差si ;
2.进行标准化处理:
zij=(xij-xi)/si
其中:zij为标准化后的变量值;xij为实际变量值。
3.将逆指标前的正负号对调。
标准化后的变量值围绕0上下波动,大于0说明高于平均水平,小于0说明低于平均水平。

5、归一化方法

归一化方法

相关文章

  • 预处理

    数据预处理的常用流程 去除唯一属性 处理缺失值 属性编码 数据标准化 特征选择 主成分分析 缺失值处理的三种方法 ...

  • 三种常用数据标准化方法

    引入 评价是现代社会各领域的一项经常性的工作,是科学做出管理决策的重要依据。随着人们研究领域的不断扩大,所面临的评...

  • R语言之数据标准化方法大全

    decostand 是群落生态学中常用的工具包,提供了很多主流且高效的数据标准化方法。 基本语法 标准化,和转化相...

  • 数据资产价值评估常用方法及对比

    常用方法简介 一般而言,数据资产价值的常用评估方法包括成本法、收益法和市场法三种基本方法及其衍生方法。中国资产评估...

  • RNA-Seq数据标准化方法

    RNA-Seq数据标准化方法 oriRNA在RNA-Seq的分析中,我们常用RPKM、FPKM和TPM作为转录组数...

  • 数据预处理和特征工程

    1.导入数据 2.数据预处理: 2.1标准化: 把数据按比例缩放,使之落入一个小的空间里。常用的方法有: 1.z-...

  • 【Hive】数据抽样

    数据抽样的常用三种方法 1、随机抽样(rand()函数)[#1rand_1] 方法一:order by 与 ran...

  • 机器学习-- 数据转换

    一.标准化的原因 二.适用情况 看模型是否具有伸缩不变性。 三.三种数据变换方法的含义与应用 Rescaling(...

  • 数据归一化方法

    【转载】数据归一化和两种常用的归一化方法 数据标准化(归一化)处理是数据挖掘的一项基础工作,不同评价指标往往具有不...

  • Python 关于list,dict,set的常用语法

    在刚刚学习python的时候,最常用的三个数据结构,是list,dict,set,以及这三种数据结构的一些常用方法...

网友评论

    本文标题:三种常用数据标准化方法

    本文链接:https://www.haomeiwen.com/subject/zmworqtx.html