Python：Unicode和ElementTree.parse

Question

我正在尝试迁移到Python 2.7，因为Unicode在那里是一个大交易，我会尝试使用XML文件和文本处理它们并使用xml.etree.cElementTree库解析它们。 但我碰到了这个错误：

>>> import xml.etree.cElementTree as ET
>>> from io import StringIO
>>> source = """\
... <?xml version="1.0" encoding="UTF-8" standalone="yes" ?>
... <root>
...   <Parent>
...     <Child>
...       <Element>Text</Element>
...     </Child>
...   </Parent>
... </root>
... """
>>> srcbuf = StringIO(source.decode('utf-8'))
>>> doc = ET.parse(srcbuf)
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "<string>", line 56, in parse
  File "<string>", line 35, in parse
cElementTree.ParseError: no element found: line 1, column 0

使用io.open('filename.xml', encoding='utf-8')传递给ET.parse会发生同样的事情：

>>> with io.open('test.xml', mode='w', encoding='utf-8') as fp:
...     fp.write(source.decode('utf-8'))
...
150L
>>> with io.open('test.xml', mode='r', encoding='utf-8') as fp:
...     fp.read()
...
u'<?xml version="1.0" encoding="UTF-8" standalone="yes" ?>\n<root>\n  <Parent>\n
    <Child>\n      <Element>Text</Element>\n    </Child>\n  </Parent>\n</root>\n
'
>>> with io.open('test.xml', mode='r', encoding='utf-8') as fp:
...     ET.parse(fp)
...
Traceback (most recent call last):
  File "<stdin>", line 2, in <module>
  File "<string>", line 56, in parse
  File "<string>", line 35, in parse
cElementTree.ParseError: no element found: line 1, column 0

有没有关于unicode和ET解析的东西，我在这里缺少？

编辑 ：显然，ET解析器与unicode输入流不能很好地配合？ 以下作品：

>>> with io.open('test.xml', mode='rb') as fp:
...     ET.parse(fp)
...
<ElementTree object at 0x0180BC10>

但这也意味着如果我想从内存中解析文本，我不能使用io.StringIO ，除非我先将其编码到内存缓冲区中？

Answer 1

你的问题是你正在提供ElementTree unicode，但它更喜欢消耗字节。 它会在任何情况下为您提供unicode。

在Python 2.x中，它只能消耗字节。 您可以告诉它这些字节的编码是什么，但就是这样。 因此，如果你真的必须使用代表文本文件的对象，比如io.StringIO ，首先你需要将它转换成其他东西。

如果你真的以UTF-8编码的2.x- str （AKA bytes ）开头，在内存中，就像在你的例子中一样，使用xml.etree.cElementTree.XML将其一举解析为XML并且不要担心这些:-)。

如果您想要一个可以处理从文件中逐步读取的数据的接口，请使用xml.etree.cElementTree.parse的io.BytesIO将其转换为内存中的字节流，而不是内存中的字符串字符。 如果要使用io.open ，请将其与b标志一起使用，以便获得字节流。

在Python 3.x中，您可以直接将unicode传递给ElementTree，这样更方便，可以说更新版本的ElementTree更为正确。 但是，您仍然可能不希望，并且Python 3的版本仍然接受字节作为输入。 无论如何，你总是从字节开始：通过将它们直接从输入源传递给ElementTree，你可以让它在XML解析引擎中智能地进行编码或解码，以及对编码声明进行动态检测。在输入流中，您可以使用XML，但不能使用任意文本数据。 因此，让XML解析器完成解码工作是放置责任的正确位置。

Answer 2

我在Python 2.6中遇到了与你相同的问题。

似乎Python 2.x和3.x版本中cElementTree.parse的“utf-8”编码是不同的。 在Python 2.x中，我们可以使用XMLParser对unicode进行编码。 例如：

import xml.etree.cElementTree as etree

parser = etree.XMLParser(encoding="utf-8")
targetTree = etree.parse( "./targetPageID.xml", parser=parser )
pageIds = targetTree.find("categorymembers")
print "pageIds:",etree.tostring(pageIds)

您可以参考此页面获取XMLParser方法（“XMLParser”部分）： http ： //effbot.org/zone/elementtree-13-intro.htm

虽然以下方法适用于Python 3.x版本：

import xml.etree.cElementTree as etree
import codecs

target_file = codecs.open("./targetPageID.xml",mode='r',encoding='utf-8')

targetTree = etree.parse( target_file )
pageIds = targetTree.find("categorymembers")
print "pageIds:",etree.tostring(pageIds)

希望这可以帮到你。

Answer 3

你不能用

doc = ET.fromstring(source)

在你的第一个例子？