如何从请求中解析xml？

Question

我查看了其他一些答案，但找不到对我有用的解决方案。

这是我的完整代码，无需任何 API 密钥即可运行：

import requests

r = requests.get('http://api.worldbank.org/v2/country/GBR/indicator/NY.GDP.MKTP.KD.ZG')

如果我打印r.text ，我会得到一个以

'\ufeff<?xml version="1.0" encoding="utf-8"?>\r\n<wb:data page="1" pages="2" per_page="50" total="60" sourceid="2" lastupdated="2019-12-20" xmlns:wb="http://www.worldbank.org">\r\n  <wb:data>\r\n    <wb:indicator id="NY.GDP.MKTP.KD.ZG">GDP growth (annual %)</wb:indicator>\r\n    <wb:country id="GB">United Kingdom</wb:country>\r\n    <wb:countryiso3code>GBR</wb:countryiso3code>\r\n    <wb:date>2019</wb:date>\r\n`

并持续一段时间。

获得我想要的东西的一种方法（据我所知，这是非常不鼓励的）是使用正则表达式：

import regex

import pandas as pd
import re

pd.DataFrame(
    re.findall(
        r"<wb:date>(\d{4})</wb:date>\r\n    <wb:value>((?:\d\.)?\d{14})", r.text
    ),
    columns=["date", "value"],
)

解析此 xml 输出的“正确”方法是什么？ 我的最终目标是拥有一个带有date和value列的 DataFrame，例如

    date    value
0   2018    1.38567356958762
1   2017    1.89207703836381
2   2016    1.91815510596298
3   2015    2.35552430595799
...

Answer 1

以下情况如何：

解码响应：

decoded_response = response.content.decode('utf-8')

转换为 json：

response_json = json.loads(json.dumps(xmltodict.parse(decoded)))

读入数据帧：

pd.read_json(response_json) 

然后你只需要玩东方之类的（文档： https : //pandas.pydata.org/pandas-docs/stable/reference/api/pandas.read_json.html ）

Answer 2

您可以使用ElementTree的API（如描述这里）

import requests
from xml.etree import ElementTree

response = requests.get('http://api.worldbank.org/v2/country/GBR/indicator/NY.GDP.MKTP.KD.ZG')

tree = ElementTree.fromstring(response.content)

print(tree)

但是你必须探索结构才能得到你想要的。

Answer 3

我最终使用的完整代码（基于 Omri 的出色回答）：

import xmltodict
import json
import pandas as pd

r = requests.get("http://api.worldbank.org/v2/country/GBR/indicator/NY.GDP.MKTP.KD.ZG")
decoded_response = r.content.decode("utf-8")

response_json = json.loads(json.dumps(xmltodict.parse(decoded_response)))

pd.DataFrame(response_json["wb:data"]["wb:data"])[["wb:date", "wb:value"]].rename(
    columns=lambda x: x.replace("wb:", "")
)

这使

    date    value
0   2019    None
1   2018    1.38567356958762
2   2017    1.89207703836381
3   2016    1.91815510596298
4   2015    2.35552430595799
...