sparklyr spark_apply用户定义的函数错误

Question

我正在尝试在spark_apply内部传递自定义R函数，但一直遇到问题，无法弄清某些错误的含义。

library(sparklyr)
sc <- spark_connect(master = "local")
perf_df <- data.frame(predicted = c(5, 7, 20), 
                       actual = c(4, 6, 40))


perf_tbl <- sdf_copy_to(sc = sc,
                        x = perf_df,
                        name = "perf_table")

#custom function
ndcg <- function(predicted_rank, actual_rank) { 
  # x is a vector of relevance scores 
  DCG <- function(y) y[1] + sum(y[-1]/log(2:length(y), base = 2)) 
  DCG(predicted_rank)/DCG(actual_rank) 
} 

#works in R using R data frame
ndcg(perf_df$predicted, perf_df$actual)


    #does not work
  perf_tbl %>%
  spark_apply(function(e) ndcg(e$predicted, e$actual),
              names = "ndcg")

Answer 1

好的，我看到两个可能的问题。

（1）-spark_apply首选具有一个参数的函数，即数据帧

（2）-根据功能的复杂程度，您可能需要制作一个包装。

假设您修改ndcg以接收数据帧作为参数。

ndcg <- function(dataset) { 
     predicted_rank <- dataset$predicted
      actual_rank <- dataset$actual
      # x is a vector of relevance scores 
      DCG <- function(y) y[1] + sum(y[-1]/log(2:length(y), base = 2)) 
      DCG(predicted_rank)/DCG(actual_rank) 
} 

然后将其放入名为ndcg_package的软件包中

现在您的代码将类似于：

spark_apply(perf_tbl, ndcg, packages = TRUE, names = "ndcg")

从内存中执行此操作，因此可能会有一些错别字，但它会让您接近。