[英]python pandas - remove duplicates in a column and keep rows according to a complex criteria
假设我有这个 DF:
s1 = pd.Series([1,1,2,2,2,3,3,3,4])
s2 = pd.Series([10,20,10,5,10,7,7,3,10])
s3 = pd.Series([0,0,0,0,1,1,0,2,0])
df = pd.DataFrame([s1,s2,s3]).transpose()
df.columns = ['id','qual','nm']
df
id qual nm
0 1 10 0
1 1 20 0
2 2 10 0
3 2 5 0
4 2 10 1
5 3 7 1
6 3 7 0
7 3 3 2
8 4 10 0
我想获得一个没有重复 ID 的新 DF,因此应该有 4 行,ID 为 1、2、3、4。 应保留的行应根据以下标准选择:取最小nm 的那一行,如果相等,取最大qual 的那一行,如果仍然相等,则只选择一个。 我想我的代码应该是这样的:
df.groupby('id').apply(lambda x: ???)
它应该返回:
id qual nm
0 1 20 0
1 2 10 0
2 3 7 0
3 4 10 0
但不确定我的函数应该接受和返回什么。
或者可能有更简单的方法?
谢谢!
将boolean indexing
与GroupBy.transform
用于每组的GroupBy.transform
行数,然后对于最大值和最后,如果仍然DataFrame.drop_duplicates
,则通过DataFrame.drop_duplicates
删除它们:
#get minimal nm
df1 = df[df['nm'] == df.groupby('id')['nm'].transform('min')]
#get maximal qual
df1 = df1[df1['qual'] == df1.groupby('id')['qual'].transform('max')]
#if still dupes get first id
df1 = df1.drop_duplicates('id')
print (df1)
id qual nm
1 1 20 0
2 2 10 0
6 3 7 0
8 4 10 0
用 -
grouper = df.groupby(['id'])
df.loc[(grouper['nm'].transform(min) == df['nm'] ) & (grouper['qual'].transform(max) == df['qual']),:].drop_duplicates(subset=['id'])
输出
id qual nm
1 1 20 0
2 2 10 0
6 3 7 0
8 4 10 0
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.