了解Python Unicode和Linux終端

Question

我有一個Python腳本，用UTF-8編碼寫一些字符串。 在我的腳本中，我主要使用str()函數來轉換為字符串。 它看起來像這樣：

mystring="this is unicode string:"+japanesevalues[1] 
#japanesevalues is a list of unicode values, I am sure it is unicode
print mystring

我不使用Python終端，只使用標准的Linux Red Hat x86_64終端。 我設置終端輸出utf8字符。

如果我執行這個：

#python myscript.py
this is unicode string: カラダーズ ソフィー

但如果我這樣做：

#python myscript.py > output

我得到了典型的錯誤：

UnicodeEncodeError: 'ascii' codec can't encode characters in position 253-254: ordinal not in range(128)

這是為什么？

Answer 1

終端有一個字符集，Python知道該字符集是什么，所以它會自動將你的Unicode字符串解碼為終端使用的字節編碼，在你的情況下是UTF-8。

但是當您重定向時，您不再使用終端。 你現在只是使用Unix管道。 Unix管道沒有字符集，Python無法知道您現在想要的編碼，因此它將回退到默認字符集。 你用“Python-3.x”標記了你的問題，但你的print語法是Python 2，所以我懷疑你實際上是在使用Python 2.然后你的sys.getdefaultencoding()通常是'ascii' ，在你的情況下它是絕對如此。 當然，您不能將日文字符編碼為ASCII，因此會出錯。

使用Python 2時最好的選擇是在打印之前用UTF-8對字符串進行編碼。 然后重定向將起作用，結果文件為UTF-8。 這意味着如果您的終端是其他東西，它將無法工作，但您可以從sys.stdout.encoding獲取終端編碼並使用它（在Python 2下重定向時它將是None）。

在Python 3中，您的代碼應該按原樣運行，除了您需要將print mystring更改為print(mystring) 。

Answer 2

如果它輸出到終端，那么Python可以檢查$LANG的值以選擇一個字符集。 如果您重定向，所有投注均已關閉。