使用pandas / python组合/合并两个csv

Question

我有两个csvs，我想合并或合并这些csvs作为左连接...我的键列是“id”，我在两个csvs中都有与“result”相同的非键列，但我想覆盖“结果”列，如果第二个CSV的“结果”列中存在任何值。 如何使用pandas或任何脚本来实现这一目标。 请查看我的最终预期输出。

输入

input.csv：

id,scenario,data1,data2,result
1,s1,300,400,"{s1,not added}"
2,s2,500,101,"{s2 added}"
3,s3,600,202,

output.csv：

id,result
1,"{s1,added}"
3,"{s3,added}"

预期产出

final_output.csv

id,scenario,data1,data2,result
1,s1,300,400,"{s1,added}"
2,s2,500,101,"{s2 added}"
3,s3,600,202,"{s3,added}"

现行代码：

import pandas as pd

a = pd.read_csv("input.csv")
b = pd.read_csv("output.csv")
merged = a.merge(b, on='test_id',how='left')
merged.to_csv("final_output.csv", index=False)

题：

使用此代码我得到结果列两次。 我只想要一次，如果该列中存在值，则应该覆盖它。 如何获得单个结果列？

Answer 1

这将根据需要组合列：

import pandas as pd

a = pd.read_csv("input.csv")
b = pd.read_csv("output.csv")
merged = a.merge(b, on='id', how='outer')

def merge_results(row):
    y = row['result_y']
    return row['result_x'] if isinstance(y, float) else y

merged['result'] = merged.apply(merge_results, axis=1)
del merged['result_x']
del merged['result_y']

merged.to_csv("final_output.csv", index=False)

Answer 2

试试这个，这也适用

import pandas as pd
import numpy as np
c=pd.merge(a,b,on='id',how='left')
lst=[]
for i in c.index:
    if(c.iloc[i]['result_x']!=''):
         lst.append(c.iloc[i]['result_x'])
    else:
         lst.append(c.iloc[i]['result_y'])
c['result']=pd.Series(lst)
del c['result_x']
del c['result_y']

Answer 3

你也可以使用concat如下。

import pandas as pd

a = pd.read_csv("input.csv")
b = pd.read_csv("output.csv")
frames=[a,b]
mergedFrames=pd.DataFrame()
mergedFrames=pd.concat(frames, sort=True)
mergedFrames.to_csv(path/to/location)

注意：添加sort=True以避免某些警告