spark-hbase-connector：ZooKeeper中的ClusterId读取为空

Question

我试图运行一个简单的程序，将rdd的内容复制到Hbase表中。 我使用的是nerdammer https://github.com/nerdammer/spark-hbase-connector的 spark-hbase-connector。 我在我的机器上使用本地群集上的spark-submit运行代码。 Spark版本是2.1。 这是我尝试运行的代码：

    import org.apache.spark.{SparkConf, SparkContext}
    import it.nerdammer.spark.hbase._

    object HbaseConnect {

    def main(args: Array[String]) {
 val sparkConf = new SparkConf()

 sparkConf.set("spark.hbase.host", "hostname")
 sparkConf.set("zookeeper.znode.parent", "/hbase-unsecure")

 val sc = new SparkContext(sparkConf)


   val rdd = sc.parallelize(1 to 100)
  .map(i => (i.toString, i+1, "Hello"))

  rdd.toHBaseTable("mytable").toColumns("column1", "column2")
  .inColumnFamily("mycf")
  .save()

  sc.stop
}}

这是我的build.sbt：

    name := "HbaseConnect"
    version := "0.1"
    scalaVersion := "2.11.8"

    assemblyMergeStrategy in assembly := {
    case PathList("META-INF", xs @ _*) => MergeStrategy.discard
    case x => MergeStrategy.first}

    libraryDependencies ++= Seq(
   "org.apache.spark" %% "spark-core" % "2.1.0" % "provided",
   "it.nerdammer.bigdata" % "spark-hbase-connector_2.10" % "1.0.3")

执行被卡住，显示以下信息：

   17/11/22 10:20:34 INFO ZooKeeperRegistry: ClusterId read in ZooKeeper is null
   17/11/22 10:20:34 INFO TableOutputFormat: Created table instance for mytable

我无法用zookeeper识别问题。 HBase客户端将使用以下两个属性发现正在运行的HBase集群：

1.hbase.zookeeper.quorum：用于连接到zookeeper集群

2.zookeeper.znode.parent。 告诉哪个znode保存集群的数据（和HMaster的地址）

我在代码中重写了这两个属性。 同

       sparkConf.set("spark.hbase.host", "hostname")
       sparkConf.set("zookeeper.znode.parent", "/hbase-unsecure")

另一个问题是没有spark-hbase-connector_2.11。 可以提供的版本spark-hbase-connector_2.10支持scala 2.11吗？

Answer 1

问题解决了。 我不得不将Hmaster端口覆盖到16000（这是我的Hmaster端口号。我正在使用ambari）。 sparkConf使用的默认值是60000。

 sparkConf.set("hbase.master", "hostname"+":16000").