美文网首页
从卡方校验到事物间的相关性

从卡方校验到事物间的相关性

作者: 云甘 | 来源:发表于2017-03-18 15:23 被阅读0次

生活中有各种各样的事物,如篮球、汽车、体育、股票等等,它们之间要么相关,要么不相关(一句废话,哈哈),也就是具有不确定性,生活就是因为各种不确定性而奇妙有趣~是否有办法确定事物间是不是相关的,比如写作与打篮球是否相关?甚至是量化这个相关程度呢?

答案是:有办法!


该办法名叫卡方校验。在详细介绍这个“办法”之前,先来科普一点基础知识。卡方校验是一种假设检验方法,用来统计样本的实际观测值与理论推断值之间的偏差程度;卡方值越大,表示偏离程度越大,卡方值越小,则偏离程度越小,若卡方值为0,则表示没有偏差。用大白话讲就是,某个事情的实际情况 与 你认为的情况 的偏离程度。

上文中量化相关程度的问题,可转化对样本间的偏差程度衡量的问题,那如何表征偏差程度?

在高中数学中,我们学过期望E和方差σ(不记得了?简单回顾下白话版概念:期望就是所有样本的平均值,方差就是样本相对于平均值的分散程度)。如果用期望来衡量偏差程度是否可以?期望能表征样本集的综合水平,但并不能表征样本的分布情况,例如,一个50人的班级平均数学成绩是65分,用65分来定义这个班的数学水平却不完全合理,因为有可能50人中有40人是80分以上,另外10人不到10分,无疑这个班的总体水平还是比较高的,只是有少数拖后腿的拉低了平均分而已,也就是正负相抵。 而方差可以表征样本相对平均值的分散情况,恰好可以弥补期望存在的缺陷。

于是,一个好的衡量偏差程度的指标,需要综合期望和方差两个参数。我们可定义这个偏差指标为(姑且简单的理解为方差比期望吧):

公式(1)

上式中,n表示样本的个数,i表示其中的某个样本。实际上,通过式(1)已经可以计算出偏差程度了,但看上去不太接地气,不是很好用。我们再来转化一下。

生活中最常见问题一般可以通过判断两个事物间的相关性解决(术语叫作自由度为1的卡方校验问题)。假定有两类事物——a、b,存在这样一个表:

表(1)

表(1)中的A、B、C、D分别表示在一个样本集中,a和b同时存在的样本数、存在b不存在a的样本数、存在a但不存在b的样本数、a和b都不存在的样本数,那么可以推导出卡方校验的卡方值的公式为:

公式(2)

公式(2)的推导过程,此处就不展开了,感兴趣的可自行百度(在此简单介绍下思路:通过表1中的数据,实际上可以分别介绍表中四种情况准确性,即A/B/C/D与真实值的偏差情况,套用公式1可得;因a、b事件发生是相互独立的,那么a、b事件同时发生时与真实情况的偏差就是所有四种子情况的偏差之和,最终即可推到出公式2,即a与b的卡方值。a、b的卡方值越大,表示a与b越相关,卡方值为0则表示完全不相关)。(Tips:因为相关性的表达是一个相对值,很多时候计算卡方值时,会忽略(A+B+C+D)这个常量)

接下来回到文章开头的问题:确定写作与打篮球的相关性。

以一个班级的50名同学为样本空间,打篮球的同学作为事件a,写作的同学作事件b,分别调研班上同学在表1中四个象限的人数,将相应的值带入公式2,即可得到卡方值,该值的及表示打篮球与写作在这个班级的相关性情况,值越大,则表示它们越相关。

总结一下计算俩事物间相关性的步骤:

选择合适的样本空间-->调查四个象限的样本值-->套公式。

1自由度的卡方校验,可用于解决许多日常生活中的问题,比如准备开个水果店,可利用卡方校验,确定店的选址与地铁口的相关性。后续再介绍多自由度的卡方校验及应用场景。

相关文章

  • 从卡方校验到事物间的相关性

    生活中有各种各样的事物,如篮球、汽车、体育、股票等等,它们之间要么相关,要么不相关(一句废话,哈哈),也就是具有不...

  • 卡方校验

    校验二分类特征相关性 1.1 统计样本集中文档总数(N)。 1.2 统计每个词的正文档出现频率(A)、负文档出现...

  • 卡方分析

    什么是卡方分析 卡方分析又称卡方检验,主要用于两组样本或是两个分类变量之间相关性的分析。其根本思想是利用样本的实际...

  • Python统计分析-卡方校验

    卡方校验 卡方检验属于非参数检验的范畴,用于统计样本的实际观测值与理论推断值之间的偏离程度,实际观测值与理论推断值...

  • 事物的相关性

    世上任何两个事物,都有着不为人知的可关联性,找到他们的共同点,并利用他们的共性来帮助你做事,为你所用。任何事物都有...

  • 四五一之做事要搞清原因和目标

    事物的发展是连续性的,每个事物互为条件也可能互为因果,只有找准事物间的相关性,才能为发展预测和制定措施提供依据。我...

  • 特征选择

    1.连续型变量之间使用相关系数,离散型特征之间使用X2卡方检验 特征和label之间相关性要高,特征之间相关性要低...

  • 机器学习之sklearn.feature_selection c

    统计里面的卡方检验 卡方检验主要是用来进行 分类变量(离散变量)的关联性、相关性分析,其根本思想就是在于比较理论频...

  • 变通,巧干

    培养自己发现事物间相关性的能力,抓住事物和问题的关键点,合理利用相关定律寻求解决方法,不做“一条道跑到黑”的傻瓜。...

  • 特征选择__过滤型

    过滤型--方差过滤法 过滤方差较低的特征 过滤型--## 卡方检验 考虑当前特征和目标特征的相关性,但是容易删除有...

网友评论

      本文标题:从卡方校验到事物间的相关性

      本文链接:https://www.haomeiwen.com/subject/jkzrnttx.html