美文网首页工具癖程序员
用IV和WOE来做特征筛选

用IV和WOE来做特征筛选

作者: 九日照林 | 来源:发表于2018-08-09 20:36 被阅读25次

什么是变量的离散化

变量的离散化就是只抽取出一个变量,分析变量当中的分组与标签的分布情况。

比如对于某个活动客户有响应和不响应的情况(这里的响应与否就是我们的标签),有多个变量:

  • 最近一个月是否有购买;
  • 最近一次购买金额;
  • 最近一笔购买的商品类别;
  • 是否是公司VIP客户;

那么我们每次取一个变量进行对其下分组的不同标签数目进行统计如下:


变量的离散化实例

数据挖掘当中的IV和WOE详解

IV就是information value,也就是信息量。我们可以这么理解,就是我们在预测A是属于Y1类还是Y2类的时候,需要有一部分的判断信息,这部分信息是来自于变量C_{1}, C_{2}, C_{3}, C_{4}……C_{n},那么其中有一些变量是对预测具有比较大的贡献的,那么我们就说这一部分的自变量的信息量很大。因此我们想找出这部分自变量是哪些?之后我们可以把这些重要的特征传入到模型进行训练。IV就是用来定量衡量这一部分信息量大小的变量。其中IV是以WOE为基础的。

WOE

WOE的全称是“weight of evidence”,也就是证据权重。对某个离散型变量而言,具有不同的值,我们按照这些不同的值对不同标签数量进行分组就是分箱操作。对于某个分组WOE的计算公式如下:

WOE_{i}=ln(\dfrac{p_{y_{i}}}{p_{n_{i}}})=ln(\dfrac{\dfrac{y_{i}}{y_{T}}}{\dfrac{n_{i}}{n_{T}}})

在这里i代表该分组的序号,y代表yes,也就是有响应或者说标签为1的;n代表no,也就是无响应或者说标签为0的。T代表Total。这里的意义就是该分组有响应的客户占总的有响应客户的百分比,除以对应该分组无响应占总的百分比。其数值反映出该分组有响应与无响应情况跟总体的差异情况,比如说年龄段为[60, 80]的买保险的比例有80%,而总体各个年龄段买保险的人数只有50%,那么这个分组下响应情况与总体的响应情况差异就会很大,WOE_{i}这个值也会很大。

WOE_{i}还可以写成

WOE_{I}=ln(\dfrac{\dfrac{y_{i}}{n_{i}}}{\dfrac{y_{T}}{n_{T}}})也就是该分组有响应和无响应的比例,与总体有响应和无响应的比例的比值。

IV的计算

IV的计算是在WOE前面加上p_{y_{i}}-p_{n_{i}},也就是该分组有响应和无响应占总体比例的差值。

IV=(p_{y_{i}}-p_{n_{i}})*WOE_{i}=(p_{y_{i}}-p_{n_{i}})*ln(\dfrac{\dfrac{y_{i}}{n_{i}}}{\dfrac{y_{T}}{n_{T}}})
关于计算的实例可以参考这个链接。这是该分组的IV值,而该变量所有分组的IV值总和加起来就得到了该变量的IV值。

关于为什么用IV而不用WOE

  1. WOE有正有负值,IV的正负与WOE的正负是相同的,乘积保证是正值,否则直接将WOE值加起来会正负抵消掉。
  2. IV值前面的(p_{y_{i}}-p_{n_{i}})其实反映出了该分组的有响应和无响应分别占总体的比例,也就是如果某个分组样本占总体数量比较低,那么对预测其实贡献也是比较低的,所以会给WOE基础上再打个折。

比如

A 响应 未响应 合计 响应比例 WOE IV
1 90 10 100 90% 4.3944492 0.0390618
0 9910 89990 99900 10% -0.00893 7.937E-05
合计 10000 90000 100000 10% 4.4033788 0.0391411

在这里本身A变量下分组1的响应数就很少,占总的比例很小,取A的1的可能性很低,因此对模型预测的贡献就 很小,因此通过(p_{y_{i}}-p_{n_{i}})可以进行打折

注意

IV里面分组不能只有响应的数量而没有未响应的数量,否则的话一个会得到正无穷,另一个会得到负无穷。

相关文章

  • 用IV和WOE来做特征筛选

    什么是变量的离散化 变量的离散化就是只抽取出一个变量,分析变量当中的分组与标签的分布情况。 比如对于某个活动客户有...

  • 谈谈 WOE和IV

    谈谈 WOE和IV[WOE] weight of evidence ,即证据权重;[IV] information...

  • 变量筛选之WOE和IV

    不生产知识,只做知识的搬运组装工~ WOE (Weight Of Evidence) WOE是一种对类别特征进行编...

  • WoE 和 IV

    1. 如何计算WoE 具体计算示例结果如下: 2. WoE的使用 将一个连续的独立变量转化成基于非独立变量分布的相...

  • WOE IV KS指标

    WOE和IV使用来衡量变量的预测能力,值越大,表示此变量的预测能力越强。 WOE=ln(累计正样本占比/累计坏样本...

  • WOE与IV值

    原文链接:WOE与IV值 微信公众号:机器学习养成记 搜索添加微信公众号:chenchenwings 计算WOE...

  • (一)python-申请评分卡模型

    简介 本文通过使用LendingClub的数据,采用卡方分箱(ChiMerge)、WOE编码、计算IV值、单变量和...

  • 初识IV值、WOE

    IV值的简单说明 IV,即information value,中文含义为信息价值,或者说信息量 当现实中,我们进行...

  • woe与iv (python)

    https://blog.csdn.net/kevin7658/article/details/50780391 ...

  • WOE、IV、PSI介绍

    WOE 1.定义: WOE的全称是“Weight of Evidence”,即证据权重。WOE是对原始自变量的一种...

网友评论

    本文标题:用IV和WOE来做特征筛选

    本文链接:https://www.haomeiwen.com/subject/nqzcbftx.html