![](/img/trans.png)
[英]How do I combine two columns in a Spark SchemaRDD containing WrappedArrays into a 3rd column with the combined WrappedArray?
[英]How do I convert a WrappedArray column in spark dataframe to Strings?
我正在嘗試將包含Array [String]的列轉換為String,但是始終出現此錯誤
org.apache.spark.SparkException: Job aborted due to stage failure: Task 0 in stage 78.0 failed 4 times, most recent failure: Lost task 0.3 in stage 78.0 (TID 1691, ip-******): java.lang.ClassCastException: scala.collection.mutable.WrappedArray$ofRef cannot be cast to [Ljava.lang.String;
這是一段代碼
val mkString = udf((arrayCol:Array[String])=>arrayCol.mkString(","))
val dfWithString=df.select($"arrayCol").withColumn("arrayString",
mkString($"arrayCol"))
WrappedArray
不是一個Array
(這是普通的Java Array
不是一個簡單的Scala集合)。 您可以將簽名更改為:
import scala.collection.mutable.WrappedArray (arrayCol: WrappedArray[String]) => arrayCol.mkString(",")
或使用像Seq
這樣的超類型之一:
(arrayCol: Seq[String]) => arrayCol.mkString(",")
在最新的Spark版本中,可以改用concat_ws
:
import org.apache.spark.sql.functions.concat_ws
df.select(concat_ws(",", $"arrayCol"))
該代碼為我工作:
df.select("wifi_ids").rdd.map(row =>row.get(0).asInstanceOf[WrappedArray[WrappedArray[String]]].toSeq.map(x=>x.toSeq.apply(0)))
您的情況,我想是:
val mkString = udf(arrayCol=>arrayCol.asInstanceOf[WrappedArray[String]].toArray.mkString(","))
val dfWithString=df.select($"arrayCol").withColumn("arrayString",mkString($"arrayCol"))
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.