如何使用列索引比较两个数据框？

Question

我正在使用 INSERT OVERWRITE LOCAL DIRECTORY 命令将 hdfs 查询 output 导出到 csv 文件中。 由于这个导出数据没有 header。 I got another dataframe from Oracle output with file header which I need to compare against hdfs output.

df1 = pd.read_csv('/home/User/hdfs_result.csv', header = None)
print(df1)

      0  1                    2
0  XPRN  A  2019-12-16 00:00:00
1  XPRW  I  2019-12-16 00:00:00
2  XPS2  I  2003-09-30 00:00:00


df = pd.read_sql(sqlquery, sqlconn)


  UNIT  STATUS Date
0  XPRN  A     2019-12-16 00:00:00
1  XPRW  A     2019-12-16 00:00:00
2  XPS2  I     2003-09-30 00:00:00

由于 df1 没有 header 我不能使用 Merge 或 Join 来比较数据。 虽然我可以做 df-df1.

请建议我如何比较和打印差异？

Answer 1

您可以通过底层 numpy 数组进行比较：

df2.where(df2==df1.values)

Output （差异被掩盖为NaN ）

   UNIT STATUS                 Date
0  XPRN      A  2019-12-16 00:00:00
1  XPRW    NaN  2019-12-16 00:00:00
2  XPS2      I  2003-09-30 00:00:00

对于不匹配的行：

df2[(df2!=df1.values).any(1)]