跨数据框列应用模糊匹配并将结果保存在新列中

Question

我有两个数据框，每个数据框都有不同的行数。 下面是每个数据集中的几行

df1 =
     Company                                   City         State  ZIP
     FREDDIE LEES AMERICAN GOURMET SAUCE       St. Louis    MO     63101
     CITYARCHRIVER 2015 FOUNDATION             St. Louis    MO     63102
     GLAXOSMITHKLINE CONSUMER HEALTHCARE       St. Louis    MO     63102
     LACKEY SHEET METAL                        St. Louis    MO     63102

和

df2 = 
     FDA Company                    FDA City    FDA State   FDA ZIP
     LACKEY SHEET METAL             St. Louis   MO          63102
     PRIMUS STERILIZER COMPANY LLC  Great Bend  KS          67530
     HELGET GAS PRODUCTS INC        Omaha       NE          68127
     ORTHOQUEST LLC                 La Vista    NE          68128

我使用combined_data = pandas.concat([df1, df2], axis = 1)并排加入了它们。 我的下一个目标是使用来自fuzzy wuzzy模块的几个不同匹配命令将df1['Company']下的每个字符串与df2['FDA Company']下的每个字符串进行比较，并返回最佳匹配的值及其名称。 我想将它存储在一个新列中。 例如，如果我在df1['Company']到df2['FDA Company'] LACKY SHEET METAL上LACKY SHEET METAL fuzz.ratio和fuzz.token_sort_ratio ，它会返回最佳匹配是LACKY SHEET METAL ，得分为100 ，这然后将保存在combined data的新列下。 结果看起来像

combined_data =
     Company                                   City         State  ZIP      FDA Company                     FDA City    FDA State   FDA ZIP     fuzzy.token_sort_ratio    match    fuzzy.ratio         match
     FREDDIE LEES AMERICAN GOURMET SAUCE       St. Louis    MO     63101    LACKEY SHEET METAL              St. Louis   MO          63102       LACKEY SHEET METAL        100      LACKEY SHEET METAL  100
     CITYARCHRIVER 2015 FOUNDATION             St. Louis    MO     63102    PRIMUS STERILIZER COMPANY LLC   Great Bend  KS          67530
     GLAXOSMITHKLINE CONSUMER HEALTHCARE       St. Louis    MO     63102    HELGET GAS PRODUCTS INC         Omaha       NE          68127
     LACKEY SHEET METAL                        St. Louis    MO     63102    ORTHOQUEST LLC                  La Vista    NE          68128

我试着做

combined_data['name_ratio'] = combined_data.apply(lambda x: fuzz.ratio(x['Company'], x['FDA Company']), axis = 1) 

但是由于列的长度不同而出错。

我难住了。 我怎样才能做到这一点？

Answer 1

我说不清你在做什么。 这就是我要做的。

from fuzzywuzzy import fuzz
from fuzzywuzzy import process

创建一系列要比较的元组：

compare = pd.MultiIndex.from_product([df1['Company'],
                                      df2['FDA Company']]).to_series()

创建一个特殊的函数来计算模糊度量并返回一个系列。

def metrics(tup):
    return pd.Series([fuzz.ratio(*tup),
                      fuzz.token_sort_ratio(*tup)],
                     ['ratio', 'token'])

将metrics应用于compare系列

compare.apply(metrics)

有很多方法可以完成下一部分：

获取与df1每一行最接近的匹配

compare.apply(metrics).unstack().idxmax().unstack(0)

获取与df2每一行最接近的匹配项

compare.apply(metrics).unstack(0).idxmax().unstack(0)

Answer 2

我已经通过并行处理在 Python 中实现了代码，这将比串行计算快得多。 此外，在模糊度量分数超过阈值的情况下，只有那些计算是并行执行的。 请参阅以下链接以获取代码：

https://github.com/ankitcoder123/Important-Python-Codes/blob/main/Faster%20Fuzzy%20Match%20between%20two%20columns/Fuzzy_match.py

版本兼容性：

pandas version :: 1.1.5 ,
fuzzywuzzy version :: 1.1.0 ,
joblib version :: 0.18.0

Fuzzywuzzy 度量解释： 链接文本

代码输出：