[英]Fastest Way for Comparing Strings Python
情况:将fileA中的字符串与fileB中的预定义字符串进行比较。 我的代码中所述函数的示例:
string = open('fileA', 'r')
stringlist = open('fileB', 'r')
//compare the strings
for i in string:
for j in stringlist:
if i == j:
print("Same String found!" + i + " " + j)
问题:在我实际的程序, string
包含超过200个字符串,而stringlist
是超过50000个字符串的文件。 如我所读,嵌套的for循环作为比较函数很慢。
问:比较两个文件内容的最快方法是什么?
附加信息1:这两个文件都是CSV文件,并且在我的程序中以CSV分隔符打开。
附加信息2:字符串是md5哈希(32个字符)。
附加信息3:我愿意采用其他方式来存储字符串,即即时比较字符串,而不是将其保存到fileA。
附加信息4:我也开放我可以使用的其他方法或模块(即:线程/并行处理)-速度是这里的关键。
如果可以不打印重复项,则使用set.intersection应该非常快:
list1 = ["hello", "world", "foo"]
list2 = ["foo", "bar", "baz"]
set(list1).intersection(list2)
# {'foo'}
您应该使用集合 :
setA = set(listA)
setB = set(listB)
common = setA.intersection(setB)
现在, common
保留了两个列表中都存在的所有字符串
您也可以使用单线执行此操作:
common = set(listA).intersection(set(listB))
如果您可以“即时”进行比较,那当然比将列表保存到文件然后再从该文件中读取更好,更快。
当然,要打印副本:
for x in common:
print(x)
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.