pd.read_csv 忽略逗号，如果它在括号内

Question

我有一个非常简单的文件：

[Name]
Streamline 1


[Data]
X [ m ], Y [ m ], Z [ m ], Velocity [ m s^-1 ]
2.66747564e-01, 0.00000000e+00, 2.03140453e-01, (0.00000000e+00, 8.17744827e+00, 0.00000000e+00)
2.66958952e-01, 0.00000000e+00, 2.07407191e-01, (0.00000000e+00, 6.77392197e+00, 0.00000000e+00)
2.63460875e-01, 0.00000000e+00, 2.06593186e-01, (0.00000000e+00, 7.04168701e+00, 0.00000000e+00)
2.65424699e-01, 0.00000000e+00, 2.00831652e-01, (0.00000000e+00, 8.93691921e+00, 0.00000000e+00)
2.70607203e-01, 0.00000000e+00, 2.02286631e-01, (0.00000000e+00, 8.45830917e+00, 0.00000000e+00)
2.68299729e-01, 0.00000000e+00, 1.97365344e-01, (0.00000000e+00, 1.00771456e+01, 0.00000000e+00)
...

我需要将速度作为向量加载到一行中。

我的基本代码：

df = pd.read_csv("C:/Users/Marek/Downloads/0deg-5ms.csv", skiprows=5)

但是这种尝试导致 1st 2 cols 成为索引，其余的分成 4 列。 index_col=False可以解决index的问题，但是会导致index超出范围。 我需要一个分隔符，它隐式地告诉熊猫忽略括号中的任何内容。 我认为python在读取csv文件时会忽略带括号的分隔符可能会起作用，但是是的，我到处都有空格。 我发现了一些使用扩展函数来加载文件并按行处理它们的解决方案，例如CSV 文件包含括号中偶尔有逗号的列会崩溃 pandas.read_csv和Load CSV with data by parentheses into a pandas dataframe 。 然而，我相信这是一个非常简单的场景，因为所有的行都是相似的，可以通过单行添加delimiter='some_regex'来解决。 然而，我无法弄清楚这个正则表达式应该是什么样子。 它应该寻找 delimiter ,而不是(.*,.*) 。

我尝试了以下操作，但这会导致一列：

df = pd.read_csv("C:/Users/Marek/Downloads/0deg-5ms.csv", skiprows=5,  delimiter=',^(\(.*,.*\))')

编辑：得到了这样的 - ,|(?:(\\(.*,.*\\))) ，但这会在每个逗号后添加一个空列。

Answer 1

您可以手动解析文件：

data = []
with open('data.csv') as fp:
    [next(fp) for i in range(5)]  # skiprows=5
    headers = [c.strip() for c in next(fp).split(',')]
    for line in fp:
        data.append([i.strip() for i in re.split(r',(?![^\(]*[\)])', line)])

df = pd.DataFrame(data, columns=headers).apply(pd.eval)

输出：

>>> df
    X [ m ]  Y [ m ]   Z [ m ]     Velocity [ m s^-1 ]
0  0.266748      0.0  0.203140  [0.0, 8.17744827, 0.0]
1  0.266959      0.0  0.207407  [0.0, 6.77392197, 0.0]
2  0.263461      0.0  0.206593  [0.0, 7.04168701, 0.0]
3  0.265425      0.0  0.200832  [0.0, 8.93691921, 0.0]
4  0.270607      0.0  0.202287  [0.0, 8.45830917, 0.0]
5  0.268300      0.0  0.197365  [0.0, 10.0771456, 0.0]

>>> df.info()
<class 'pandas.core.frame.DataFrame'>
RangeIndex: 6 entries, 0 to 5
Data columns (total 4 columns):
 #   Column               Non-Null Count  Dtype  
---  ------               --------------  -----  
 0   X [ m ]              6 non-null      float64
 1   Y [ m ]              6 non-null      float64
 2   Z [ m ]              6 non-null      float64
 3   Velocity [ m s^-1 ]  6 non-null      object 
dtypes: float64(3), object(1)
memory usage: 320.0+ bytes

>>> type(df.iloc[0, 3])  # [0.0, 8.17744827, 0.0]
list

>>> type(df.iloc[0, 3][1])  # 8.17744827
float

Answer 2

经过多次尝试，我找到了如何在此基础上创建一个非常简单的单线的答案。 如果有人感兴趣，这里是：

df = pd.read_csv("C:/Users/Marek/Downloads/0deg-5ms.csv", skiprows=5,  delimiter=',(?![^\(]*[\)])', engine="python")

分隔符检查括号外所有内容中的逗号。 像魅力一样简单:)