在 R data.table 中用 NA 替换所有空白的快速方法

Question

我有一个大的 data.table 对象（1M 行和 220 列），我想用 NA 替换所有空格 ('')。 我在这篇文章中找到了一个解决方案，但我的数据表非常慢（已经超过 15 分钟）来自另一篇文章的示例：

 data = data.frame(cats=rep(c('', ' ', 'meow'),1e6),
                   dogs=rep(c("woof", " ", NA),1e6))
 system.time(x<-apply(data, 2, function(x) gsub("^$|^ $", NA, x)))

是否有更多 data.table 快速方法来实现这一目标？

确实提供的数据看起来和原始数据不太一样，只是举个例子。 我的真实数据的以下子集给出了 CharToDate(x) 错误：

DT <- data.table(ID=c(10),DEFAULT_DATE=as.Date("2012-07-31"),value='')
system.time(DT[DT=='']<-NA)

Answer 1

这可能是执行此操作的通用data.table方式。 我还将使用您的正则表达式来处理几种类型的空白（我还没有看到其他答案这样做）。 您可能不应该在所有列上运行它，而应该只在factor或character列上运行，因为其他类不会接受空白值。

对于factor s

indx <- which(sapply(data, is.factor))
for (j in indx) set(data, i = grep("^$|^ $", data[[j]]), j = j, value = NA_integer_) 

对于character s

indx2 <- which(sapply(data, is.character)) 
for (j in indx2) set(data, i = grep("^$|^ $", data[[j]]), j = j, value = NA_character_)

Answer 2

使用这种方法：

system.time(data[data==''|data==' ']<-NA)
  user  system elapsed 
  1.47    0.19    1.66 

system.time(y<-apply(data, 2, function(x) gsub("^$|^ $", NA, x)))
  user  system elapsed 
  3.41    0.20    3.64

Answer 3

假设您在填充数据时出错，以下是使用您在标签中使用的 data.table 的解决方案。

library(data.table)
data = data.table(cats=rep(c('', ' ', 'meow'),1000000),dogs=rep(c("woof", " ", NA),1000000))
system.time(data[cats=='', cats := NA][dogs=='', dogs := NA])
#  user  system elapsed 
# 0.056   0.000   0.059 

如果您有很多专栏，请参阅 David 的评论。

Answer 4

在尝试了几种不同的方法后，我发现最快和最简单的选择是：

data[data==""] <- NA