在Python中解码UTF-8字符串

Question

我正在python中编写一个Web爬虫，它涉及从网站上获取头条新闻。

其中一个标题应该是：而且嘻哈也会来

但相反它说：而且Hip也来了

这里出了什么问题？

Answer 1

这是一个编码错误 - 所以如果它是一个unicode字符串，这应该修复它：

text.encode("windows-1252").decode("utf-8")

如果它是一个普通的字符串，你需要一个额外的步骤：

text.decode("utf-8").encode("windows-1252").decode("utf-8")

这两个都会给你一个unicode字符串。

顺便说一下 - 要发现这样的文本是如何因编码问题而被破坏的，你可以使用chardet ：

>>> import chardet
>>> chardet.detect(u"And the Hipâ€™s coming, too")
{'confidence': 0.5, 'encoding': 'windows-1252'}

Answer 2

您需要正确解码源文本。 很可能源文本是UTF-8格式，而不是ASCII格式。

由于您没有为您的问题提供任何上下文或代码，因此无法给出直接答案。

我建议你研究如何在Python中完成unicode和字符编码：

http://docs.python.org/2/howto/unicode.html