[英]Resuming a nested for-loop
两个文件。 一个带有损坏的数据,另一个带有修复程序。 破碎:
ID 0
T5 rat cake
~EOR~
ID 1
T1 wrong segg
T2 wrong nacob
T4 rat tart
~EOR~
ID 3
T5 rat pudding
~EOR~
ID 4
T1 wrong sausag
T2 wrong mspa
T3 strawberry tart
~EOR~
ID 6
T5 with some rat in it
~EOR~
修正:
ID 1
T1 eggs
T2 bacon
~EOR~
ID 4
T1 sausage
T2 spam
T4 bereft of loif
~EOR~
EOR表示记录结束。 请注意,“损坏的”文件比“修复”文件具有更多的记录,该文件具有要修复的标签(T1,T2等是标签)和要添加的标签。 这段代码完全可以实现预期的功能:
# foobar.py
import codecs
source = 'foo.dat'
target = 'bar.dat'
result = 'result.dat'
with codecs.open(source, 'r', 'utf-8_sig') as s, \
codecs.open(target, 'r', 'utf-8_sig') as t, \
codecs.open(result, 'w', 'utf-8_sig') as u:
sID = ST1 = sT2 = sT4 = ''
RecordFound = False
# get source data, record by record
for sline in s:
if sline.startswith('ID '):
sID = sline
if sline.startswith('T1 '):
sT1 = sline
if sline.startswith('T2 '):
sT2 = sline
if sline.startswith('T4 '):
sT4 = sline
if sline.startswith('~EOR~'):
for tline in t:
# copy target file lines, replacing when necesary
if tline == sID:
RecordFound = True
if tline.startswith('T1 ') and RecordFound:
tline = sT1
if tline.startswith('T2 ') and RecordFound:
tline = sT2
if tline.startswith('~EOR~') and RecordFound:
if sT4:
tline = sT4 + tline
RecordFound = False
u.write(tline)
break
u.write(tline)
for tline in t:
u.write(tline)
我正在写一个新文件,因为我不想弄乱其他两个文件。 第一个外部for循环在fixes文件中的最后一条记录上完成。 那时,仍然有要写入目标文件的记录。 那就是最后的条款。
令我烦恼的是,这最后一行隐式地选择了第一个内部for循环最后一次中断的地方。 好像应该说“ t中其余的tline”。 另一方面,我看不到如何用更少(或更多)的代码行(使用字典和您拥有的东西)来做到这一点。 我应该担心吗?
请评论。
我不会担心 在您的示例中, t
是文件句柄,您正在对其进行迭代。 Python中的文件句柄是它们自己的迭代器。 它们具有有关文件中读取位置的状态信息,并且在您遍历文件时会保留其位置。 您可以在python文档中查看file.next()以获得更多信息。
另请参见另外一个关于迭代器的SO答案: Python中的“ yield”关键字有什么作用? 。 那里有很多有用的信息!
编辑:这是使用字典将它们组合的另一种方法。 如果要在输出之前对记录进行其他修改,则可能需要此方法:
import sys
def get_records(source_lines):
records = {}
current_id = None
for line in source_lines:
if line.startswith('~EOR~'):
continue
# Split the line up on the first space
tag, val = [l.rstrip() for l in line.split(' ', 1)]
if tag == 'ID':
current_id = val
records[current_id] = {}
else:
records[current_id][tag] = val
return records
if __name__ == "__main__":
with open(sys.argv[1]) as f:
broken = get_records(f)
with open(sys.argv[2]) as f:
fixed = get_records(f)
# Merge the broken and fixed records
repaired = broken
for id in fixed.keys():
repaired[id] = dict(broken[id].items() + fixed[id].items())
with open(sys.argv[3], 'w') as f:
for id, tags in sorted(repaired.items()):
f.write('ID {}\n'.format(id))
for tag, val in sorted(tags.items()):
f.write('{} {}\n'.format(tag, val))
f.write('~EOR~\n')
dict(broken[id].items() + fixed[id].items())
部分利用了这一优势: 如何在一个表达式中合并两个Python字典?
# building initial storage
content = {}
record = {}
order = []
current = None
with open('broken.file', 'r') as f:
for line in f:
items = line.split(' ', 1)
try:
key, value = items
except:
key, = items
value = None
if key == 'ID':
current = value
order.append(current)
content[current] = record = {}
elif key == '~EOR~':
current = None
record = {}
else:
record[key] = value
# patching
with open('patches.file', 'r') as f:
for line in f:
items = line.split(' ', 1)
try:
key, value = items
except:
key, = items
value = None
if key == 'ID':
current = value
record = content[current] # updates existing records only!
# if there is no such id -> raises
# alternatively you may check and add them to the end of list
# if current in content:
# record = content[current]
# else:
# order.append(current)
# content[current] = record = {}
elif key == '~EOR~':
current = None
record = {}
else:
record[key] = value
# patched!
# write-out
with open('output.file', 'w') as f:
for current in order:
out.write('ID '+current+'\n')
record = content[current]
for key in sorted(record.keys()):
out.write(key + ' ' + (record[key] or '') + '\n')
# job's done
问题吗?
为了完整起见,并为了分享我的热情和所学,下面是我现在使用的代码。 它回答了我的OP,还有更多内容。
它部分基于akaRem的上述方法。 单个函数可填充字典。 它被调用两次,一次是修复文件,一次是文件修复。
import codecs, collections
from GetInfiles import *
sourcefile, targetfile = GetInfiles('dat')
# GetInfiles reads two input parameters from the command line,
# verifies they exist as files with the right extension,
# and then returns their names. Code not included here.
resultfile = targetfile[:-4] + '_result.dat'
def recordlist(infile):
record = collections.OrderedDict()
reclist = []
with codecs.open(infile, 'r', 'utf-8_sig') as f:
for line in f:
try:
key, value = line.split(' ', 1)
except:
key = line
# so this line must be '~EOR~\n'.
# All other lines must have the shape 'tag: content\n'
# so if this errors, there's something wrong with an input file
if not key.startswith('~EOR~'):
try:
record[key].append(value)
except KeyError:
record[key] = [value]
else:
reclist.append(record)
record = collections.OrderedDict()
return reclist
# put files into ordered dicts
source = recordlist(sourcefile)
target = recordlist(targetfile)
# patching
for fix in source:
for record in target:
if fix['ID'] == record['ID']:
record.update(fix)
# write-out
with codecs.open(resultfile, 'w', 'utf-8_sig') as f:
for record in target:
for tag, field in record.iteritems():
for occ in field:
line = u'{} {}'.format(tag, occ)
f.write(line)
f.write('~EOR~\n')
现在是命令式的字典。 这不在我的OP中,但是文件需要由人员进行交叉检查,因此保持顺序可使此操作变得更加容易。 ( 使用OrderedDict真的很容易 。我第一次尝试找到此功能使我感到o然,但它的文档使我感到担忧。没有示例,令人生畏的行话...)
此外,它现在支持记录中多次出现任何给定的标签。 这也不在我的OP中,但是我需要这个。 (该格式称为“ Adlib标记”,它是一种编目软件。)
与akaRem的方法不同的是,使用目标dict的update
进行修补。 我发现,与python一样,它确实非常优雅。 同样对于startswith
。 这是我无法抗拒分享的另外两个原因。
我希望它有用。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.