繁体   English   中英

spark-cassandra-connector 是否支持内置负载平衡?

[英]Does spark-cassandra-connector support built-in load balanceing?

我有基于 Scala 的应用程序,我需要将它连接到 Cassandra。 我发现 DataStax Enterprise 驱动程序在这方面非常有用,它们有很多很酷的功能,比如 Cassandra 的内置负载平衡,这对我来说真的很重要。 不幸的是,没有任何适用于 Scala 的原生 DSE 驱动程序。 我知道我们可以使用 DSE Java 驱动程序,但在这种情况下,我们失去了很多 Scala 很酷的功能。 我还发现了由 Datastax 构建的 spark-cassandra-connector,但是这个内置的负载平衡对我来说非常重要,我不知道 spark-cassandra-connector 是否支持它。

在使用 DSE Java 驱动程序的基于 Java 的应用程序中,我需要在配置文件中配置内置负载均衡器,如下所示:

datastax-java-driver.basic.load-balancing-policy {
  class = DefaultLoadBalancingPolicy
}

我不知道 Scala 中使用 spark-cassandra-connector 的等效方式,我什至不确定它是否可能。 任何帮助,将不胜感激。 谢谢。

在 Scala 中,您可以只使用Java驱动程序 - 开箱即用,您不仅支持基本 Scala 类型,但您可以通过将源代码导入到项目中解决这个问题) - 它至少适用于驱动程序 3.x。 另一个问题是对Option的支持,但这可以通过 Java 的 optional 在 Java 驱动程序中有一个额外的编解码器来完成

关于驱动程序的自定义 - 该部分应与 Scala 一起使用而无需更改。 关于 Spark 中默认策略的支持 - Spark Cassandra 连接器出于特殊原因有一个单独的策略 - 它接近 Java 的默认策略,但具有 Spark 的细节。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM