如何从带有注释的 txt 文件创建 pandas dataframe？

Question

我需要创建一个 pandas dataframe 基于 4 个带有评论的 txt 文件（阅读时跳过）基于以下结构：

# Moteur conçu par le Poly Propulsion Lab (PPL)
nom=Tondeuse

# Propriétés générales
hauteur=0.5
masse=20.0
prix=110.00

# Propriétés du moteur
impulsion specifique=80

和

# Moteur conçu par le Poly Propulsion Lab (PPL)
nom=Civic VTEC

# Propriétés générales
hauteur=2.0
masse=3000.0
prix=2968.00

# Propriétés du moteur
impulsion specifique=205

和

# Moteur conçu par le Poly Propulsion Lab (PPL)
nom=VelociRAPTOR

# Propriétés générales
hauteur=4.0
masse=2000.0
prix=6000.00

# Propriétés du moteur
impulsion specifique=250

和

# Moteur conçu par le Poly Propulsion Lab (PPL)
nom=La Puissance

# Propriétés générales
hauteur=12.0
masse=15000.0
prix=39000.00

# Propriétés du moteur
impulsion specifique=295

这就是我需要的结果：

            nom  hauteur    masse     prix  impulsion specifique
0      Tondeuse      0.5     20.0    110.0                    80
1    Civic VTEC      2.0   3000.0   2968.0                   205
2  VelociRAPTOR      4.0   2000.0   6000.0                   250
3  La Puissance     12.0  15000.0  39000.0                   295

我不知道这是否可能，但这就是我被要求做的

Answer 1

您的数据文件看起来非常接近配置文件。 您可以使用configparser从每个文件生成字典：

from pathlib import Path
from configparser import ConfigParser

data = []
for file in Path("data").glob("*.txt"):
    parser = ConfigParser()
    # INI file requires a section header. Yours don't have one.
    # So let's give it one called DEFAULT
    parser.read_string("[DEFAULT]\n" + file.read_text())
    data.append(dict(parser.items("DEFAULT")))

df = pd.DataFrame(data)

Answer 2

欢迎来到 Stackoverflow：:)

如果您的 txt 文件具有您刚才显示的内容，您可以使用 pandas 作为 CSV 文件读取它们。

pandas.read_csv function 有很多东西可以帮助你：

• 它输出一个 dataframe，这是你想要结束的格式
• 有一个comment输入参数，您可以使用它定义要忽略的行
• 您可以使用=号作为分隔符，这样您就可以将数据拆分到所需的部分

现在，让我们尝试使用read_csv function 读取您的文件之一：

import pandas as pd
df = pd.read_csv(file, comment='#', sep='=', header=None)
df
                    nom  Tondeuse                                                                                                                                                                                                                                               
0               hauteur       0.5                                                                                                                                                                                                                                               
1                 masse      20.0                                                                                                                                                                                                                                               
2                  prix     110.0                                                                                                                                                                                                                                               
3  impulsion specifique      80.0

我们还没有完全做到这一点。 我们想要删除没有提供任何信息的索引列，并且我们想要转置 dataframe（行 <-> 列）以便能够将所有数据帧连接在一起。 我们开始做吧！

import pandas as pd
df = pd.read_csv(file, comment='#', sep='=', header=None, index_col=0).T
df

0       nom hauteur masse    prix impulsion specifique                                                                                                                                                                                                                          
1  Tondeuse     0.5  20.0  110.00                   80

这样看起来好多了！ 设置index_col=0使最左边的列成为索引列，最后的.T转置您的 dataframe。现在我们只需要将它放在一个循环中并从中制作一个完整的脚本！

import pandas as pd
import glob
import os

files = glob.glob(os.path.join(path, '*.csv'))

all_dfs = []
for file in files:
    current_df = pd.read_csv(file, comment='#', sep='=', header=None, index_col=0).T
    all_dfs.append(current_df)

total_df = pd.concat(all_dfs)
total_df

0           nom hauteur    masse      prix impulsion specifique                                                                                                                                                                                                                 
1  La Puissance    12.0  15000.0  39000.00                  295                                                                                                                                                                                                                 
1    Civic VTEC     2.0   3000.0   2968.00                  205                                                                                                                                                                                                                 
1  VelociRAPTOR     4.0   2000.0   6000.00                  250                                                                                                                                                                                                                 
1      Tondeuse     0.5     20.0    110.00                   80

请注意，您仍然有最左边的带有索引号的列，我没有清除它，因为我不确定您在那里想要什么。

此外，重要的是，您需要注意，如果文件中列的名称略有不同（例如impulsion specifique与impulsion spécifique ），这将带来错误。 您将需要为这些创建错误处理程序。 或者可能强制执行某种模式，但这超出了这个问题的 scope。

我希望这有帮助！