[英]value lookup is not a member of org.apache.spark.rdd.RDD[(String, String)]
[英]Spark leftOuterJoin issue - leftOuterJoin is not a member of org.apache.spark.rdd.RDD[(String, String)]
我正在尝试为leftOuterJoin写一个简单的包装。 我是这样开始的,遇到奇怪的问题,
import org.apache.spark.rdd.RDD
import org.apache.spark.SparkContext._
import org.apache.spark.rdd.PairRDDFunctions
import scala.reflect.ClassTag
case class Joins(self: RDD[(String,String)]) {
def loj(other: RDD[(String,String)]) = {
(self.leftOuterJoin(other))
}
}
错误:值leftOuterJoin不是org.apache.spark.rdd.RDD [(String,String)]的成员
我在哪里错了?
我认为这只是一个突出显示的错误,所以您可以添加
import org.apache.spark.rdd.RDD._
似乎Spark 1.4.x的 SparkContext._
行为已更改, SparkContext._
不再是强制性的,但IDE仍需要它来识别正确的类型。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.