美文网首页生物信息学与算法数据科学与R语言
构建模拟实验比较相关性和互信息

构建模拟实验比较相关性和互信息

作者: PriscillaBai | 来源:发表于2018-06-28 18:14 被阅读0次

今天师兄给我讲了模拟实验,分享给大家

构建网络时,有两种方法,相关性和互信息,那么这两种方法孰优孰劣呢?

已知相关性是线性的,互信息非线性的,那么我们构建模拟实验时,要综合考虑这两种数据类型。并且,互信息只能应用于整数,正态分布四舍五入后容易聚集到一起,影响效果,所以我们选择均匀分布。

1. 生成从100个0:1000的均匀分布数据,并取整数
x1<-runif(100,0,1000)
x1<-round(x1,digits = 0)
2. 生成线性和非线性方程
a=3
b=3
y1<-a*x1
y2<-b*x1^2
3. 给方程加残差扰动
k<-1000
m<-runif(100,0,k)
y1<-y1+m
y2<-y2+m
4.分别求相关性和互信息
cor(x1,round(y1))
cor(x1,round(y2))
mutinformation(x1,round(y1))
mutinformation(x1,round(y2))
5. 不断增加K的值(K即残差的标准差),也就是增大扰动程度。观察相关性和互信息的变化

相关文章

  • 构建模拟实验比较相关性和互信息

    今天师兄给我讲了模拟实验,分享给大家 构建网络时,有两种方法,相关性和互信息,那么这两种方法孰优孰劣呢? 已知相关...

  • 吴军信息论笔记|如何利用互信息解决问题

    1. 什么是互信息,互信息vs相关性的关系 吴军老师讲的概念本身不难,信息之间是有相关性的,互信息是度量相关性的尺...

  • 相关性度量方法

    基于相互独立性的互信息是衡量变量间非线性相关性的一种工具。虽然皮尔逊相 关系数和互信息被广泛的运用在度量变量间的相...

  • 基于互信息和左右信息熵的短语提取

    1 互信息和信息熵的概念2 算法流程3 代码实现 1 互信息和信息熵的概念 1.1 互信息 互信息体现了两个变量之...

  • 互信息——事件相关性度量

    延续上一次对熵的理解,今天来看看互信息。先说概念:互信息(Mutual Information)也叫转移信息(tr...

  • 相关分析方法

    5种常见的相关分析方法第一、散点图和折线图第二、相关系数第三、当数据类型是特征值(离散)时用互信息方法求相关性 e...

  • 新词发现

    前言 先列出来几个概念: 信息熵:变量的混乱程度,公式,熵越大表示混乱程度越大。 互信息:表示两个变量X与Y相关性...

  • 情感倾向PMI算法

    点互信息算法(PMI) 基本思想:是统计两个词语在文本中同时出现的概率,如果概率越大,其相关性就越紧密,关联度越高...

  • 2019.12.04 互信息

    【印象深刻】 互信息可以简单地理解为相关性。 世界上很多事情彼此相关,如果它们之间有确定的因果关系,那样的信息就是...

  • 熵之道

    熵的定义如下: 互信息 = H(D) - H(D|A) 信息增益 = 经验熵 - 经验条件熵; 互信息和信息增益理...

网友评论

    本文标题:构建模拟实验比较相关性和互信息

    本文链接:https://www.haomeiwen.com/subject/yurnyftx.html