PySpark：如何從Spark數據框架創建嵌套的JSON？

Question

我正在嘗試從我的spark數據幀創建一個嵌套的json，其中包含以下結構的數據。 下面的代碼使用鍵和值創建一個簡單的json。 能否請你幫忙

df.coalesce(1).write.format('json').save(data_output_file+"createjson.json", overwrite=True)

更新1：根據@MaxU的答案，我將spark數據幀轉換為熊貓，並使用分組依據。 它將最后兩個字段放入嵌套數組中。 我如何首先將類別和計數放入嵌套數組，然后在該數組內部我想放入子類別和計數。

樣本文本數據：

Vendor_Name,count,Categories,Category_Count,Subcategory,Subcategory_Count
Vendor1,10,Category 1,4,Sub Category 1,1
Vendor1,10,Category 1,4,Sub Category 2,2
Vendor1,10,Category 1,4,Sub Category 3,3
Vendor1,10,Category 1,4,Sub Category 4,4

j = (data_pd.groupby(['vendor_name','vendor_Cnt','Category','Category_cnt'], as_index=False)
             .apply(lambda x: x[['Subcategory','subcategory_cnt']].to_dict('r'))
             .reset_index()
             .rename(columns={0:'subcategories'})
             .to_json(orient='records'))

[{
        "vendor_name": "Vendor 1",
        "count": 10,
        "categories": [{
            "name": "Category 1",
            "count": 4,
            "subCategories": [{
                    "name": "Sub Category 1",
                    "count": 1
                },
                {
                    "name": "Sub Category 2",
                    "count": 1
                },
                {
                    "name": "Sub Category 3",
                    "count": 1
                },
                {
                    "name": "Sub Category 4",
                    "count": 1
                }
            ]
        }]

Answer 1

您需要為此重新構建整個數據框。

“ subCategories”是一個結構類型。

from pyspark.sql import functions as F
df.withColumn(
  "subCategories",
  F.struct(
    F.col("subCategories").alias("name"),
    F.col("subcategory_count").alias("count")
  )
)

然后，groupBy並使用F.collect_list創建數組。

最后，您只需要在數據框中有1條記錄即可獲得預期的結果。

Answer 2

在python / pandas中執行此操作的最簡單方法是使用使用groupby的一系列嵌套生成器，我認為：

def split_df(df):
    for (vendor, count), df_vendor in df.groupby(["Vendor_Name", "count"]):
        yield {
            "vendor_name": vendor,
            "count": count,
            "categories": list(split_category(df_vendor))
        }

def split_category(df_vendor):
    for (category, count), df_category in df_vendor.groupby(
        ["Categories", "Category_Count"]
    ):
        yield {
            "name": category,
            "count": count,
            "subCategories": list(split_subcategory(df_category)),
        }

def split_subcategory(df_category):
    for row in df.itertuples():
        yield {"name": row.Subcategory, "count": row.Subcategory_Count}

list(split_df(df))

 [ { "vendor_name": "Vendor1", "count": 10, "categories": [ { "name": "Category 1", "count": 4, "subCategories": [ {"name": "Sub Category 1", "count": 1}, {"name": "Sub Category 2", "count": 2}, {"name": "Sub Category 3", "count": 3}, {"name": "Sub Category 4", "count": 4}, ], } ], } ] 

要將其導出到json ，您需要一種導出np.int64