美文网首页
[24] 《R数据科学》EDA缺失值

[24] 《R数据科学》EDA缺失值

作者: 灰常不错 | 来源:发表于2020-11-10 23:40 被阅读0次

如果在数据集中发现异常值,但只想继续其余的分析工作,那么有两种选择。

  • 将带有可疑值的行全部丢弃:
library(dplyr)
library(ggplot2)
diamonds2 <- diamonds %>% filter(between(y,3,20))

但并不建议采用这种方式,因为一个无效测量不代表所有测量都是无效的。此外,如果数据质量不高,若对每个变量都采用这种做法,那么到最后可能会发现数据已经所剩无几!

  • 相反可以用缺失值来代替异常值。最简单的做法就是使用mutate()函数创建一个新变量来代替原来的变量。可以使用ifelse()函数将异常值替换为NA:
(diamonds2 <- diamonds %>% mutate(y=ifelse(y<3|y>20,NA,y)))
# A tibble: 53,940 x 10
   carat cut       color clarity depth table price     x     y     z
   <dbl> <ord>     <ord> <ord>   <dbl> <dbl> <int> <dbl> <dbl> <dbl>
 1 0.23  Ideal     E     SI2      61.5    55   326  3.95  3.98  2.43
 2 0.21  Premium   E     SI1      59.8    61   326  3.89  3.84  2.31
 3 0.23  Good      E     VS1      56.9    65   327  4.05  4.07  2.31
 4 0.290 Premium   I     VS2      62.4    58   334  4.2   4.23  2.63
 5 0.31  Good      J     SI2      63.3    58   335  4.34  4.35  2.75
 6 0.24  Very Good J     VVS2     62.8    57   336  3.94  3.96  2.48
 7 0.24  Very Good I     VVS1     62.3    57   336  3.95  3.98  2.47
 8 0.26  Very Good H     SI1      61.9    55   337  4.07  4.11  2.53
 9 0.22  Fair      E     VS2      65.1    61   337  3.87  3.78  2.49
10 0.23  Very Good H     VS1      59.4    61   338  4     4.05  2.39
# ... with 53,930 more rows

ifelse()有三个参数。第一个参数是一个逻辑向量,如果为TRUE会返回第二个参数的值,如果为FALSE会返回第三个参数的值。
ggplot2绘图时会忽略缺失值,但是会提出警告信息:

ggplot(diamonds2,aes(x,y))+geom_point()
#Warning message:
#Removed 9 rows containing missing values (geom_point). 
image.png
如要消除警告信息,可以使用na.rm=TRUE
ggplot(diamonds2,aes(x,y))+geom_point(na.rm = TRUE)

如果想要弄清楚造成有缺失值的观测和没有缺失值的观测间的区别的原因。可以使用is.na()函数创建一个新变量来完成这个操作:

library(nycflights13)
flights %>% mutate(cancelled = is.na(dep_time),sched_hour = sched_dep_time%/%100,sched_min=sched_dep_time%%100,sched_dep_time=sched_hour+sched_min/60) %>% ggplot(aes(sched_dep_time))+geom_freqpoly(aes(color=cancelled),binwidth=1/4)
image.png
nycflights13::flights中dep_time变量中的缺失值表示航班取消了。因此,对已取消航班和未取消航班的计划出发时间做出比较。

相关文章

  • [24] 《R数据科学》EDA缺失值

    如果在数据集中发现异常值,但只想继续其余的分析工作,那么有两种选择。 将带有可疑值的行全部丢弃: 但并不建议采用这...

  • 05爱彼迎租房数据分析

    导入库 数据基本信息 缺失值处理 数据EDA 房源分布热力图 房间类型room_type 房间名称 回访量统计 可...

  • R 语言-缺失数据和字符串

    1、缺失数据 缺失值 NA,在 R 中,NA 代表缺失值,NA是不可用,not available 的简称,用来存...

  • R基础五(字符串)

    缺失信息 R中用NA表示缺失信息。往往很多数据中包含NA值,需要去除。 查看数据集中是否含义缺失值(is.na()...

  • 02房价统计

    数据EDA 销售价格SalePrice分析 相关性分析 缺失值处理 离群点out liars 深入理解SalePr...

  • R语言实战考卷 第四章

    本章要点 R储存缺失值和日期的方式; 处理缺失值和日期的方式 对象的数据类型;转换数据类型;(控制流if-then...

  • Task2-数据分析

    了解数据,为后续特征工程做准备。目的: 1.EDA价值主要在于熟悉了解整个数据集的基本情况(缺失值,异常值),变量...

  • 数据缺失值处理 -- R

    转载https://blog.csdn.net/yyykkklll123/article/details/8386...

  • R数据数据缺失值处理

    处理缺失值的步骤一般为: 识别缺失值 补全个案或删除个案 个案、行都是指代一个意思 识别缺失值 识别缺失值的方法很...

  • 数据的缺失值处理说明

    缺失值说明 缺失值产生的原因 缺失值处理 缺失值说明 缺失数据是指粗糙数据中由于缺少信息而造成的数据的聚类、分组、...

网友评论

      本文标题:[24] 《R数据科学》EDA缺失值

      本文链接:https://www.haomeiwen.com/subject/nxmhbktx.html