在pandas数据帧中组合groupby后创建共享变量

Question

我无法描述我的问题，所以我会直接进入它。 这是一些测试数据：

import pandas as pd
df = pd.DataFrame(data={"family":["Smith","Miller","Simpson","Miller","Simpson","Smith","Miller","Simpson","Miller"],
                    "first_name":["Anna","Bart","Lisa","Ida","Paul","Bridget","Harry","Dustin","George"],
                    "shirt_color":["green","yellow","red","yellow","green","red","yellow","red","red"]})

现在我想在我的原始数据框架中创建一个新列，其中包含每个系列的shirt_color份额，因此每一行如家庭米勒和shirt_color黄色都具有相同的值0.75等。

我尝试了几种方法，但没有成功。

df = df.groupby("family").apply(lambda x: x.groupby("shirt_color").apply(lambda x: x.size()/familysize))

这似乎很有希望，但正如你所看到的，我无法再访问上一个lambda函数中的家庭成员数量。 我还试图创建一个只有family的groupby对象并遍历数据帧，按颜色分别对所有数据帧进行分组，但不知怎的，我无法将数据帧放回到最后。

对于数据帧来说，这似乎不是一件非常奇特的事情，所以我确信有一个简单的方法可以做到这一点，但我没有想法。

非常感谢您的帮助！

Answer 1

在我看来，你应该避免apply因为这会导致效率低下的Python级循环。 这是使用GroupBy + transform的替代解决方案：

f = df.groupby('family')['first_name'].transform('size')
g = df.groupby(['family', 'shirt_color'])['first_name'].transform('size')

df['ratio'] = g / f

print(df)

    family first_name shirt_color     ratio
0    Smith       Anna       green  0.500000
1   Miller       Bart      yellow  0.750000
2  Simpson       Lisa         red  0.666667
3   Miller        Ida      yellow  0.750000
4  Simpson       Paul       green  0.333333
5    Smith    Bridget         red  0.500000
6   Miller      Harry      yellow  0.750000
7  Simpson     Dustin         red  0.666667
8   Miller     George         red  0.250000

Answer 2

尝试：

df.groupby('family').apply(lambda g: g.groupby("shirt_color").apply(lambda x: x.size/g.size)).reset_index()

Answer 3

你快到了。 只需使用不同的变量名称。 通过使用两个x您可以覆盖以前的变量，并且无法访问它

df.groupby("family").apply(lambda s: s.groupby("shirt_color").apply(lambda x: x.size/s.size))

family   shirt_color
Miller   red            0.250000
         yellow         0.750000
Simpson  green          0.333333
         red            0.666667
Smith    green          0.500000
         red            0.500000
dtype: float64

Answer 4

使用value_counts并merge ：

s = (df.groupby('family').shirt_color
        .value_counts(normalize=True).rename('ratio').reset_index())

    family shirt_color     ratio
0   Miller      yellow  0.750000
1   Miller         red  0.250000
2  Simpson         red  0.666667
3  Simpson       green  0.333333
4    Smith       green  0.500000
5    Smith         red  0.500000

要把它放回到最初的DataFrame中：

df.merge(s)

    family first_name shirt_color     ratio
0    Smith       Anna       green  0.500000
1   Miller       Bart      yellow  0.750000
2   Miller        Ida      yellow  0.750000
3   Miller      Harry      yellow  0.750000
4  Simpson       Lisa         red  0.666667
5  Simpson     Dustin         red  0.666667
6  Simpson       Paul       green  0.333333
7    Smith    Bridget         red  0.500000
8   Miller     George         red  0.250000