了解Python Unicode和Linux终端

Question

我有一个Python脚本，用UTF-8编码写一些字符串。 在我的脚本中，我主要使用str()函数来转换为字符串。 它看起来像这样：

mystring="this is unicode string:"+japanesevalues[1] 
#japanesevalues is a list of unicode values, I am sure it is unicode
print mystring

我不使用Python终端，只使用标准的Linux Red Hat x86_64终端。 我设置终端输出utf8字符。

如果我执行这个：

#python myscript.py
this is unicode string: カラダーズ ソフィー

但如果我这样做：

#python myscript.py > output

我得到了典型的错误：

UnicodeEncodeError: 'ascii' codec can't encode characters in position 253-254: ordinal not in range(128)

这是为什么？

Answer 1

终端有一个字符集，Python知道该字符集是什么，所以它会自动将你的Unicode字符串解码为终端使用的字节编码，在你的情况下是UTF-8。

但是当您重定向时，您不再使用终端。 你现在只是使用Unix管道。 Unix管道没有字符集，Python无法知道您现在想要的编码，因此它将回退到默认字符集。 你用“Python-3.x”标记了你的问题，但你的print语法是Python 2，所以我怀疑你实际上是在使用Python 2.然后你的sys.getdefaultencoding()通常是'ascii' ，在你的情况下它是绝对如此。 当然，您不能将日文字符编码为ASCII，因此会出错。

使用Python 2时最好的选择是在打印之前用UTF-8对字符串进行编码。 然后重定向将起作用，结果文件为UTF-8。 这意味着如果您的终端是其他东西，它将无法工作，但您可以从sys.stdout.encoding获取终端编码并使用它（在Python 2下重定向时它将是None）。

在Python 3中，您的代码应该按原样运行，除了您需要将print mystring更改为print(mystring) 。

Answer 2

如果它输出到终端，那么Python可以检查$LANG的值以选择一个字符集。 如果您重定向，所有投注均已关闭。