繁体   English   中英

合并CSV文件中类似字符串的值

[英]Combining values from Similar Strings in CSV File

因此,我有一个充满交易的CSV文件,其中供应商名称位于一列,交易金额位于另一列。 我们的目标是找到交易总数最大的供应商。 那部分非常简单,我有如下代码:

with open('Transactions.csv') as Vendor_Data:
    file_reader = csv.reader(Vendor_Data, delimiter=',')
    vendor_dict = {}
    next(file_reader)
    for row in file_reader:
        if row[3] not in vendor_dict:
            vendor_dict[row[3]] = [0, 0]
            vendor_dict[row[3]][1] += round(float(row[1]), 2)
        else:
            vendor_dict[row[3]][0] += 1
            vendor_dict[row[3]][1] += round(float(row[1]), 2)

问题是,有很多条目中同一供应商的拼写略有不同(“达美航空”诉“达美航空”)。 在循环CSV文件并合并交易实例和金额时,检测这些相似的字符串名称(例如,使用Fuzzywuzzy)的最佳方法是什么?

import csv

from fuzzywuzzy import fuzz

with open('Transactions.csv') as Vendor_Data:
    file_reader = csv.reader(Vendor_Data, delimiter=',')
    vendor_dict = {}
    next(file_reader)  # skipping a header?
    for row in file_reader:

        # we can't use the dictionary directly (e.g. "key in vendor_dict")
        # because we want to do a similarity search.
        csv_name = row[3]
        for vendor_name, vendor_values in vendor_dict.iteritems():

            # this is *a* way to do it. You may want to use different scores
            # or even a different comparison
            if fuzz.token_set_ratio(csv_name, vendor_name) > 80:
                vendor_values[0] += 1
                vendor_values[1] += round(float(row[1]), 2)
                break
        else:
            # we didn't find anything similar enough, so create an entry
            vendor_values = [0, 0]
            vendor_values[1] += round(float(row[1]), 2)

        vendor_dict[csv_name] = vendor_values

在熊猫中读取csv文件。 然后为“ fuzzywuzzy百分比匹配添加新列。

创建一个阈值,确定哪个百分比应视为同一字符串,然后通过使用isin()方法进行过滤,然后添加交易金额列的值来进行计算。

将其循环到整个DataFrame,您将获得所需的结果。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM