Pandas GroupBy.apply 方法复制第一组

Question

我的第一个 SO 问题：我对 Pandas (0.12.0-4) 中 groupby 的 apply 方法的这种行为感到困惑，它似乎将函数 TWICE 应用于数据帧的第一行。 例如：

>>> from pandas import Series, DataFrame
>>> import pandas as pd
>>> df = pd.DataFrame({'class': ['A', 'B', 'C'], 'count':[1,0,2]})
>>> print(df)
   class  count  
0     A      1  
1     B      0    
2     C      2

我首先检查 groupby 函数是否正常工作，似乎没问题：

>>> for group in df.groupby('class', group_keys = True):
>>>     print(group)
('A',   class  count
0     A      1)
('B',   class  count
1     B      0)
('C',   class  count
2     C      2)

然后我尝试在 groupby 对象上使用 apply 做类似的事情，我得到了第一行输出两次：

>>> def checkit(group):
>>>     print(group)
>>> df.groupby('class', group_keys = True).apply(checkit)
  class  count
0     A      1
  class  count
0     A      1
  class  count
1     B      0
  class  count
2     C      2

任何帮助，将不胜感激！ 谢谢。

编辑：@Jeff 在下面提供了答案。 一头雾水，一时没看懂，所以这里举个简单的例子来说明，尽管上面例子中第一组打印了两次，但是apply方法对第一组只操作了一次，不会对原始数据框进行变异：

>>> def addone(group):
>>>     group['count'] += 1
>>>     return group

>>> df.groupby('class', group_keys = True).apply(addone)
>>> print(df)

      class  count
0     A      1
1     B      0
2     C      2

但是通过将方法的返回值分配给一个新对象，我们看到它按预期工作：

>>> df2 = df.groupby('class', group_keys = True).apply(addone)
>>> print(df2)

      class  count
0     A      2
1     B      1
2     C      3

Answer 1

这是设计使然，如此处和此处所述

apply函数需要知道返回数据的形状才能智能地确定如何组合。 为此，它两次调用该函数（在您的情况下为checkit ）以实现此目的。

根据您的实际用例，您可以将apply调用替换为aggregate 、 transform或filter ，详见此处。 这些函数要求返回值是特定的形状，因此不要两次调用该函数。

但是 - 如果您正在调用的函数没有副作用，则该函数在第一个值上被调用两次很可能无关紧要。

Answer 2

这个“问题”现已得到修复：升级到 0.25+

从 v0.25 开始， GroupBy.apply()只会评估第一组一次。 见GH24748 。

0.25.0 中的新功能（2019 年 7 月 18 日）： Groupby.apply上的DataFrame仅评估第一组一次

文档中的相关示例：

pd.__version__                                                                                                          
# '0.25.0.dev0+590.g44d5498d8'

df = pd.DataFrame({"a": ["x", "y"], "b": [1, 2]})                                                                      

def func(group): 
    print(group.name) 
    return group                                                                                                                     

新行为 (>=v0.25)：

df.groupby('a').apply(func)                                                                                            
x
y

   a  b
0  x  1
1  y  2

旧行为 (<=v0.24.x)：

df.groupby('a').apply(func)
x
x
y

   a  b
0  x  1
1  y  2

Pandas 仍然使用第一组来确定apply是否可以走快速路径。 但至少它不再需要对第一组进行两次评估。 干得好，开发人员！

Answer 3

您可以使用 for 循环来避免 groupby.apply 重复的第一行，

日志样本.csv

guestid,keyword
1,null
2,null
2,null
3,null
3,null
3,null
4,null
4,null
4,null
4,null

我的代码片段

df=pd.read_csv("log_sample.csv") 
grouped = df.groupby("guestid")

for guestid, df_group in grouped:
    print(list(df_group['guestid'])) 

df.head(100)

输出

[1]
[2, 2]
[3, 3, 3]
[4, 4, 4, 4]