PySpark 按给定 SparseVector() 索引处的值过滤

Question

我在尝试做一些看起来很简单的事情时遇到了问题。 我有以下格式的 DF：

+---------+---------------------+
|id       |feat_vctr            |
+---------+---------------------+
|XXXXXXXX |(4,[],[])            |
|XXXXXXXX |(4,[0],[5.0])        |
|XXXXXXXX |(4,[2,3],[25.0,15.0])|
+---------+---------------------+

其中feat_vctr是pyspark.ml.linalg.SparseVector 。

请注意， printSchema()仅将其显示为向量，但是它采用稀疏向量的格式...

无论如何，我想将其过滤为 4 个 DF，其中每个 dataframe 是上述过滤版本，其中过滤掉在给定索引处没有值的所有行。

我正在尝试使用：

filtered_df_idx_0 = df.filter(df.feat_vctr[0] > 0.0)
filtered_df_idx_1 = df.filter(df.feat_vctr[1] > 0.0)
filtered_df_idx_2 = df.filter(df.feat_vctr[2] > 0.0)
filtered_df_idx_3 = df.filter(df.feat_vctr[3] > 0.0)

我收到一个错误

Py4JJavaError: An error occurred while calling o1089.filter.
: org.apache.spark.sql.AnalysisException: Can't extract value from feat_vctr#1007: need struct type but got struct<type:tinyint,size:int,indices:array<int>,values:array<double>>;

这对我来说很奇怪，因为我可以直接使用以下方法创建一个稀疏向量：

v = SparseVector(4, {1:2.3, 3:4.0})

v[1]

返回 2.3（在 jupyter 笔记本中）

Answer 1

我无法在filter function内做到这一点

似乎它必须使用 UDF 来实现这一点：

# Filter the empty Sparse Vector
def no_empty_vector(value):
    if value.indices.size > 0:
        return True
    else:
        return False


no_empty_vector_udf = udf(no_empty_vector, BooleanType())
df = df.filter(no_empty_vector_udf('features'))
df.show()