Python：有沒有辦法提取和連接多個文本文件系列，將每個文件的前 3 行作為我 go 一起刪除？

Question

我有一個包含幾個文本文件系列的文件夾，每個文件都包含來自某些分析的單行殘差。 他們的文件名是這樣的：

'residual_x01'
'residual_x02'
...
'residual_y01'
'residual_y02'
...
'residual_z01'
'residual_z02'

文件的內容如下所示：

1 ### This is the file number in the series
c:\file\location\goes\here
983 1051 0 0 983 1051 ### other identifier
1.1 ### this is where the data I want starts
3.5
0.8
0.7
1.3
... ## so on for about a million lines.

使用Python，我想從這些文件中提取殘差，連接形成每個系列的一個長文件（即x，y，z），並將每個文件的前三行刪除為I go，即形成：

1.1 ### data from first file of series 'residual_x01 / _y01 / _z01'
3.5
0.8
0.7
1.3
...
1.1 ### data from second file of series 'residual_x02 / _y02 / _z02'
3.5
0.8
0.7
1.3
...
1.1 ### data from third file of series 'residual_x03 / _y03 / _z03'
3.5
0.8
0.7
1.3
... ... and so on.

我不知道該怎么做，有人可以幫忙嗎？

Answer 1

你沒有提供太多數據，所以我做了一些虛假數據。 我不想制作一堆文件，所以我只制作了三個假數據文件，但代碼應該適用於任意數量的文件，每個文件的長度也可以是可變的。

假設您有以下三個文本文件：

文件/residual_x01.txt

1
c:\file\location\goes\here
983 1051 0 0 983 1051
1.1
3.5
0.8
0.7
1.3

文件/residual_x02.txt

2
c:\file\location\goes\here
983 1051 0 0 983 1051
7.1
8.4
0.3
2.3
0.1

文件/residual_y01.txt

1
c:\file\location\goes\here
983 1051 0 0 983 1051
4.2
4.3
1.3
0.2
0.0

代碼：

def get_file_lines(path_to_file):

    from itertools import islice

    number_of_lines_to_skip = 3

    with path_to_file.open("r") as file:

        _ = list(islice(file, number_of_lines_to_skip))
        for line in file:
            yield line.strip()


def get_all_floats(path_to_dir):

    from pathlib import Path

    for path in Path(path_to_dir).glob("residual_*.txt"):
        for line in get_file_lines(path):
            yield float(line)


def main():

    for f in get_all_floats("files/"):
        print(f)

    return 0


if __name__ == "__main__":
    import sys
    sys.exit(main())

Output：

1.1
3.5
0.8
0.7
1.3
7.1
8.4
0.3
2.3
0.1
4.2
4.3
1.3
0.2
0.0
>>> 

Answer 2

對於每個系列，您可以使用以下代碼創建一個文件，其中包含文件中除前 3 行之外的所有行：

filenames = ['residual_x01', 'residual_x02', ...]
output_file = 'path/to/output/residual_x'
lines_to_skip = 3
with open(output_file, 'w') as outfile:
    for fname in filenames:
        with open(fname) as infile:
            lines = infile.readlines()[lines_to_skip:]
            for line in lines:
                outfile.write(line)

根據您的需要更改filenames列表和output_file 。 您也可以調整lines_to_skip變量。