[英]Count total values in each row of dataframe using pyspark
我在数据框中有一列,每一行都有一个用逗号分隔的日期列表。 我想创建一个名为 date_count 的新列,其中包含每行的日期数。 我尝试使用 pandas 但我想在 pyspark 中实现它,而且我也是 spark 新手。
df['date_count'] = 0
for index in df.index.tolist():
for i in (df.loc[[index],'date']):
date_list = i.split(",")
df.loc[[index],'date_count'] = len(date_list)
下面是我的 pyspark 代码:
values = [
(1,"2019-10-11, 2019-10-12, 2019-10-13, 2019-10-14, 2019-10-15"),
(2,"2019-11-11, 2019-11-12, 2019-11-17, 2019-11-18")
]
rdd = sc.parallelize(values)
schema = StructType([
StructField("id", IntegerType(), True),StructField("dates", StringType(), True)
])
data = spark.createDataFrame(rdd, schema)
data.createOrReplaceTempView("data")
spark.sql("""select id,
dates,
size(split(dates, ",")) as date_count
from data""").show(20,False)
结果:
+---+----------------------------------------------------------+----------+
|id |dates |date_count|
+---+----------------------------------------------------------+----------+
|1 |2019-10-11, 2019-10-12, 2019-10-13, 2019-10-14, 2019-10-15|5 |
|2 |2019-11-11, 2019-11-12, 2019-11-17, 2019-11-18 |4 |
+---+----------------------------------------------------------+----------+
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.