從英文文本到UTF-8的文件編碼

Question

如何在Python中將帶有CRLF行終止符的非ISO擴展ASCII英文文本轉換為utf-8

Answer 1

擴展Jishiyu的答案，您可以使用uchardet來標識字符集。 例如

iconv -f `uchardet a_strange_file.txt` -t UTF-8 -o the_output_file.txt a_strange_file.txt

雖然這在python中不起作用。

Answer 2

我認為linux命令unix2dos，dos2unix，iconv會有所幫助。

像

iconv -f latin-1 -t UTF-8 latin.txt> utf8.txt

Answer 3

如果獲得輸入文件的原始字節流，則可以將其decode為utf-8 。 請參閱此博客文章以及一些Python 3示例。

Answer 4

我已經使用enca庫創建了一個自動轉換腳本 ，我在NAS上使用了該腳本將字幕轉換為UTF-8，但是它可以用於任何自動轉換

隨時使用:)

編輯：

#!/bin/bash
LANGUAGE=czech
TO=utf8
CONVERT="enca -L $LANGUAGE -x $TO"

# Find and onvert
find ./ -type f -name "*.srt" | while read fn; do
  IS_TARGET=`enca "${fn}" | egrep -ow -m 1 'UTF-8|Unrecognized|KOI8-CS2|7bit ASCII|UCS-2|Macintosh Central European'`

    if [ "$IS_TARGET" != "UTF-8" ] &&
       [ "$IS_TARGET" != "UCS-2" ] &&
       [ "$IS_TARGET" != "Macintosh Central European" ] &&
       [ "$IS_TARGET" != "Unrecognized" ] &&
       [ "$IS_TARGET" != "7bit ASCII" ] &&
       [ "$IS_TARGET" != "KOI8-CS2" ]; then

        echo "${fn} ---- Will be converted!"
    # optional backup of original srt
        # cp "${fn}" "${fn}.bak"
        $CONVERT "${fn}"
    fi  

done