熊貓：如何分組和總和MultiIndex

Question

我有一個帶有分類屬性的數據框，其中索引包含重復項。 我試圖找到索引和屬性的每個可能組合的總和。

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack()
print(y)
print(y.groupby(level=[0,1]).sum())

產量

11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64
11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64

堆棧和組合總和是一樣的。

但是，我期待的是

11  x    2
11  y    6
12  x    6
12  y    10

編輯2：

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack().groupby(level=[0,1]).sum()
print(y.groupby(level=[0,1]).sum())

輸出：

11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64

編輯3：已記錄一個問題https://github.com/pydata/pandas/issues/10417

Answer 1

使用Pandas 0.15.2，您只需再重復一次groupby

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack().groupby(level=[0,1]).sum()
print(y.groupby(level=[0,1]).sum())

版畫

11  x     2
    y     6
12  x     6
    y    10

Answer 2

使用pandas 0.16.2和Python 3，我能夠通過以下方式獲得正確的結果：

x.stack().reset_index().groupby(['level_0','level_1']).sum()

哪個產生：

                    0
level_0 level_1 
     11       x     2
              y     6
     12       x     6
              y     10

然后，您可以使用reindex()和columns將索引和列名稱更改為更合適的名稱。

根據我的研究，我同意原始方法的失敗似乎是一個錯誤。 我認為這個bug出現在Series ，這就是x.stack()產生的。 我的解決方法是通過reset_index()將Series轉換為DataFrame 。 在這種情況下， DataFrame不再具有MultiIndex - 我只是對標記列進行分組。

要確保對具有DataFrame的MultiIndex進行分組和求和，您可以嘗試使用它來獲得相同的正確輸出：

x.stack().reset_index().set_index(['level_0','level_1'],drop=True).\
groupby(level=[0,1]).sum()

在解決錯誤之前，這些變通辦法中的任何一個都應該處理好事情。

我想知道這個bug是否與在Series與DataFrame上創建的MultiIndex實例有關。 例如：

In[1]: obj = x.stack()
       type(obj)
Out[1]: pandas.core.series.Series

In[2]: obj.index
Out[2]: MultiIndex(levels=[[11, 11, 12, 12], ['x', 'y']],
           labels=[[0, 0, 1, 1, 2, 2, 3, 3], [0, 1, 0, 1, 0, 1, 0, 1]])

與

In[3]: obj = x.stack().reset_index().set_index(['level_0','level_1'],drop=True)
       type(obj)
Out[3]: pandas.core.frame.DataFrame

In[4]: obj.index
Out[4]: MultiIndex(levels=[[11, 12], ['x', 'y']],
           labels=[[0, 0, 0, 0, 1, 1, 1, 1], [0, 1, 0, 1, 0, 1, 0, 1]],
           names=['level_0', 'level_1'])

請注意MultiIndex上的DataFrame如何更准確地描述級別。

Answer 3

sum允許您指定要在MultiIndex數據框中求和的級別。

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack()

y.sum(level=[0,1])

11  x     2
    y     6
12  x     6
    y    10