Spark和HBase快照

Question

假设我们可以直接从HDFS而不是使用HBase API来更快地访问数据，我们正在尝试基于HBase的表快照构建RDD。

所以，我有一个名为“dm_test_snap”的快照。 我似乎能够使大多数配置工作正常，但我的RDD为空（尽管Snapshot本身存在数据）。

我有一段时间找到一个使用Spark对HBase快照进行离线分析的人的例子，但我无法相信我一个人试图让这个工作起来。 非常感谢任何帮助或建议。

这是我的代码片段：

object TestSnap  {
  def main(args: Array[String]) {
    val config = ConfigFactory.load()
    val hbaseRootDir =  config.getString("hbase.rootdir")
    val sparkConf = new SparkConf()
      .setAppName("testnsnap")
      .setMaster(config.getString("spark.app.master"))
      .setJars(SparkContext.jarOfObject(this))
      .set("spark.executor.memory", "2g")
      .set("spark.default.parallelism", "160")

    val sc = new SparkContext(sparkConf)

    println("Creating hbase configuration")
    val conf = HBaseConfiguration.create()

    conf.set("hbase.rootdir", hbaseRootDir)
    conf.set("hbase.zookeeper.quorum",  config.getString("hbase.zookeeper.quorum"))
    conf.set("zookeeper.session.timeout", config.getString("zookeeper.session.timeout"))
    conf.set("hbase.TableSnapshotInputFormat.snapshot.name", "dm_test_snap")

    val scan = new Scan
    val job = Job.getInstance(conf)

    TableSnapshotInputFormat.setInput(job, "dm_test_snap", 
        new Path("hdfs://nameservice1/tmp"))

    val hBaseRDD = sc.newAPIHadoopRDD(conf, classOf[TableSnapshotInputFormat],
      classOf[org.apache.hadoop.hbase.io.ImmutableBytesWritable],
      classOf[org.apache.hadoop.hbase.client.Result])

    hBaseRDD.count()

    System.exit(0)
  }

}

更新以包含解决方案诀窍是，正如@Holden在下面提到的那样，conf没有通过。 为了解决这个问题，我能够通过将对newAPIHadoopRDD的调用更改为：

val hBaseRDD = sc.newAPIHadoopRDD(job.getConfiguration, classOf[TableSnapshotInputFormat],
      classOf[org.apache.hadoop.hbase.io.ImmutableBytesWritable],
      classOf[org.apache.hadoop.hbase.client.Result])

第二个问题也被@ victor的回答强调，我没有通过扫描。 为了解决这个问题，我添加了这一行和方法：

conf.set(TableInputFormat.SCAN, convertScanToString(scan))

 def convertScanToString(scan : Scan) = {
      val proto = ProtobufUtil.toScan(scan);
      Base64.encodeBytes(proto.toByteArray());
    }

这也让我从conf.set命令中提取这一行：

conf.set("hbase.TableSnapshotInputFormat.snapshot.name", "dm_test_snap")

*注意：这是针对CDH5.0上的HBase版本0.96.1.1

最终完整代码，以便于参考：

object TestSnap  {
  def main(args: Array[String]) {
    val config = ConfigFactory.load()
    val hbaseRootDir =  config.getString("hbase.rootdir")
    val sparkConf = new SparkConf()
      .setAppName("testnsnap")
      .setMaster(config.getString("spark.app.master"))
      .setJars(SparkContext.jarOfObject(this))
      .set("spark.executor.memory", "2g")
      .set("spark.default.parallelism", "160")

    val sc = new SparkContext(sparkConf)

    println("Creating hbase configuration")
    val conf = HBaseConfiguration.create()

    conf.set("hbase.rootdir", hbaseRootDir)
    conf.set("hbase.zookeeper.quorum",  config.getString("hbase.zookeeper.quorum"))
    conf.set("zookeeper.session.timeout", config.getString("zookeeper.session.timeout"))
    val scan = new Scan
    conf.set(TableInputFormat.SCAN, convertScanToString(scan))

    val job = Job.getInstance(conf)

    TableSnapshotInputFormat.setInput(job, "dm_test_snap", 
        new Path("hdfs://nameservice1/tmp"))

    val hBaseRDD = sc.newAPIHadoopRDD(job.getConfiguration, classOf[TableSnapshotInputFormat],
      classOf[org.apache.hadoop.hbase.io.ImmutableBytesWritable],
      classOf[org.apache.hadoop.hbase.client.Result])

    hBaseRDD.count()

    System.exit(0)
  }

  def convertScanToString(scan : Scan) = {
      val proto = ProtobufUtil.toScan(scan);
      Base64.encodeBytes(proto.toByteArray());
  }

}

Answer 1

查看作业信息，它会复制您提供给它的conf对象（ The Job makes a copy of the Configuration so that any necessary internal modifications do not reflect on the incoming parameter. ）所以很可能是您的信息需要设置conf对象不会传递给Spark。 您可以改为使用TableSnapshotInputFormatImpl ，它具有与conf对象相似的类似方法。 可能还需要其他的东西，但首先要解决问题，这似乎是最可能的原因。

正如评论中指出的，另一个选择是使用job.getConfiguration从作业对象获取更新的配置。

Answer 2

您尚未正确配置M / R作业：这是Java中有关如何在快照上配置M / R的示例：

Job job = new Job(conf);
Scan scan = new Scan();
TableMapReduceUtil.initTableSnapshotMapperJob(snapshotName,
       scan, MyTableMapper.class, MyMapKeyOutput.class,
       MyMapOutputValueWritable.class, job, true);
}

你肯定是跳过扫描。 我建议你看一下TableMapReduceUtil的initTableSnapshotMapperJob实现，以了解如何在Spark / Scala中配置作业。

Answer 3

这是mapreduce Java中的完整配置

TableMapReduceUtil.initTableSnapshotMapperJob(snapshotName, // Name of the snapshot
                scan, // Scan instance to control CF and attribute selection
                DefaultMapper.class, // mapper class
                NullWritable.class, // mapper output key
                Text.class, // mapper output value
                job,
                true,
                restoreDir);