pandas df.apply 意外地就地更改了数据框

Question

根据我的理解，pandas.DataFrame.apply 不会就地应用更改，我们应该使用其返回对象来保留任何更改。 但是，我发现了以下不一致的行为：

为了确保原始 df 保持不变，让我们应用一个虚拟函数：

>>> def foo(row: pd.Series):
...     row['b'] = '42'

>>> df = pd.DataFrame([('a0','b0'),('a1','b1')], columns=['a', 'b'])
>>> df.apply(foo, axis=1)
>>> df
    a   b
0   a0  b0
1   a1  b1

这符合预期。 但是，如果我们修改初始化此 df 的方式， foo 将就地应用更改：

>>> df2 = pd.DataFrame(columns=['a', 'b'])
>>> df2['a'] = ['a0','a1']
>>> df2['b'] = ['b0','b1']
>>> df2.apply(foo, axis=1)
>>> df2
    a   b
0   a0  42
1   a1  42

我还注意到，如果列 dtypes 不是“对象”类型，则上述情况不成立。 为什么 apply() 在这两种情况下表现不同？

蟒蛇：3.6.5

熊猫：0.23.1

Answer 1

有趣的问题！ 我相信您所看到的行为是您使用apply方式的apply 。

正如您正确指出的那样， apply不打算用于修改数据框。 但是，由于apply接受一个任意函数，因此不能保证应用该函数是幂等的并且不会更改数据帧。 在这里，您找到了该行为的一个很好的示例，因为您的函数foo尝试修改apply传递的行。

使用apply修改一行可能会导致这些副作用。 这不是最佳做法。

相反，考虑这种惯用方法apply 。 函数apply通常用于创建新列。 下面是一个通常如何apply的例子，我相信它会引导你远离这个潜在的麻烦领域：

import pandas as pd
# construct df2 just like you did
df2 = pd.DataFrame(columns=['a', 'b'])
df2['a'] = ['a0','b0']
df2['b'] = ['a1','b1']

df2['b_copy'] = df2.apply(lambda row: row['b'], axis=1) # apply to each row
df2['b_replace'] = df2.apply(lambda row: '42', axis=1) 
df2['b_reverse'] = df2['b'].apply(lambda val: val[::-1]) # apply to each value in b column

print(df2)

# output:
#     a   b b_copy b_replace b_reverse
# 0  a0  a1     a1        42        1a
# 1  b0  b1     b1        42        1b

请注意，pandas 将一行或一个单元格传递给您作为apply的第一个参数提供的函数，然后将该函数的输出存储在您选择的列中。

如果您想逐行修改数据帧，请查看iterrows和loc以获取最惯用的路线。

Answer 2

也许晚了，但我认为这可能对提出这个问题的人特别有帮助。

当我们使用foo ：

def foo(row: pd.Series):
    row['b'] = '42'

然后在：

df.apply(foo, axis=1)

我们不会期望df发生任何变化，但它会发生。 为什么？

让我们回顾一下幕后发生的事情：

apply函数调用foo并将一行传递给它。 由于它不是 Python 中特定types （如 int、float、str 等），而是一个对象，因此根据 Python 规则，它是通过引用而不是值传递的。 所以它完全等同于apply函数发送的行。（值相等并且都指向同一个内存块。）所以在foo函数中对row任何更改都会改变row - 它的类型是pandas.series和指向df.row驻留的内存块 - 立即。

我们可以重写foo （我命名bar ）函数不会改变任何东西就地。 （通过深度复制row ，这意味着使用相同的值制作另一行，但在 ram 的另一个单元格上）。 这就是我们在apply函数中使用lambda时真正发生的事情。

def bar(row: pd.Series):
    row_temp=row.copy(deep=True)
    row_temp['b'] = '42'
    return row_temp

完整代码

import pandas as pd


#Changes df in place -- not like lamda
def foo(row: pd.Series):
    row['b'] = '42'


#Do not change df inplace -- works like lambda
def bar(row: pd.Series):
    row_temp = row.copy(deep=True)
    row_temp['b'] = '42'
    return row_temp


df2 = pd.DataFrame(columns=['a', 'b'])
df2['a'] = ['a0', 'a1']
df2['b'] = ['b0', 'b1']

print(df2)

# No change inplace
df_b = df2.apply(bar, axis=1)
print(df2)
# bar function works
print(df_b)

print(df2)
# Changes inplace
df2.apply(foo, axis=1)
print(df2)

输出

#df2 before any change
    a   b
0  a0  b0
1  a1  b1

#calling df2.apply(bar, axis=1) not changed df2 inplace
    a   b
0  a0  b0
1  a1  b1

#df_b = df2.apply(bar, axis=1) #bar is working as expected
    a   b
0  a0  42
1  a1  42

#print df2 again to assure it is not changed
    a   b
0  a0  b0
1  a1  b1

#call df2.apply(foo, axis=1) -- as we see foo changed df2 inplace ( to compare with bar)
    a   b
0  a0  42
1  a1  42