将嵌套的 JSON（具有多个列表）展平为多个 pandas dataframe 列

Question

我有一个 pandas 列，其中包含嵌套的 json 数据字符串。 我想将数据展平为多个 pandas 列。 我有这样的数据：

{
 'A': '123',
 'B': '2019-08-26', 
 'C': [
       {
        'a': 'stop', 
        'b': 'A+'
       },
       {
        'a': 'go', 
        'b': 'C+'
       }
      ], 
'D': [],
'E': [
      {
       'a': 'Don', 
      'b': 1
      },
      {
       'b': 12
      }
     ], 
}

对于 pandas 列中的每个单元格，我想解析这个字符串并创建多个列。 预期的 output 看起来像这样：

| A | B | C.a | C.b | D.a | D.b | E.a | E.b |
|---- |------|-----|-----|-----|-----|-----|-----|
| 123  | 2019-08-26  | stop | A+ | Nan | Nan | Don | 1 |
| 123  | 2019-08-26  | go | C+ | Nan | Nan | Don | 1 |
| 123  | 2019-08-26  | stop | A+ | Nan | Nan | NaN | 12 |
| 123  | 2019-08-26  | go | C+ | Nan | Nan | Nan | 12 |

我尝试使用 json_normalize，但它返回错误....请帮助我:(

Answer 1

将pd.json_normalize与df.explode和pd.concat一起使用：

In [308]: x = pd.json_normalize(j).explode('C').explode('E')  
In [310]: r = pd.concat([x.drop(['C', 'E'], 1).reset_index(drop=True), pd.json_normalize(x.C), pd.json_normalize(x.E)], 1)

In [316]: C_cols = [f'C.{i}' for i in pd.json_normalize(x.C).columns]    
In [317]: E_cols = [f'E.{i}' for i in pd.json_normalize(x.E).columns]

In [323]: r.columns = [*x.drop(['C', 'E'], 1).columns , *C_cols, *E_cols]

In [324]: r
Out[324]: 
     A           B   D   C.a C.b  E.a  E.b
0  123  2019-08-26  []  stop  A+  Don    1
1  123  2019-08-26  []  stop  A+  NaN   12
2  123  2019-08-26  []    go  C+  Don    1
3  123  2019-08-26  []    go  C+  NaN   12

Answer 2

与@Mayank Porwal 的回答类似，首先使用pd.json_normalize + df.explode 。 然后使用str.get方法从['C','D','E']列中的字典中收集值：

df = pd.json_normalize(json_data).explode('C').explode('E')
for col in ['C','D','E']:
    for i in ['a','b']:
        df[col+'.'+i] = df[col].str.get(i)
df['E.a'].replace({None:np.nan}, inplace=True)
df = df.drop(['C','E','D'], axis=1).sort_values(by='E.b')

Output：

     A           B   C.a C.b  D.a  D.b  E.a  E.b
0  123  2019-08-26  stop  A+  NaN  NaN  Don    1
0  123  2019-08-26    go  C+  NaN  NaN  Don    1
0  123  2019-08-26  stop  A+  NaN  NaN  NaN   12
0  123  2019-08-26    go  C+  NaN  NaN  NaN   12