如何读取文件，如果UTF-8无效，则中止错误？

Question

在Go中，我想逐行读入文件，转换为str或[]rune 。

该文件应以UTF-8编码，但我的程序不应该信任它。 如果它包含无效的UTF-8，我想正确处理错误。

有bytes.Runes(s []byte) []rune ，但没有错误返回值。 遇到无效的UTF-8会不会感到恐慌？

Answer 1

例如，

package main

import (
    "bufio"
    "fmt"
    "io/ioutil"
    "os"
    "strings"
    "unicode/utf8"
)

func main() {
    tFile := "text.txt"
    t := []byte{'\xFF', '\n'}
    ioutil.WriteFile(tFile, t, 0666)
    f, err := os.Open(tFile)
    if err != nil {
        fmt.Println(err)
        os.Exit(1)
    }
    defer f.Close()
    r := bufio.NewReader(f)
    s, err := r.ReadString('\n')
    if err != nil {
        fmt.Println(err)
        os.Exit(1)
    }
    s = strings.TrimRight(s, "\n")
    fmt.Println(t, s, []byte(s))
    if !utf8.ValidString(s) {
        fmt.Println("!utf8.ValidString")
    }
}

输出：

[255 10] � [255]
!utf8.ValidString

Answer 2

例如：

import (
    "io/ioutil"
    "log"
    "unicode/utf8"
)

// ...

buf, err := ioutil.ReadAll(fname)
if error != nil {
        log.Fatal(err)
}

size := 0
for start := 0; start < len(buf); start += size {
        var r rune
        if r, size = utf8.DecodeRune(buf[start:]); r == utf8.RuneError {
                log.Fatalf("invalid utf8 encoding at ofs %d", start)
        }
}

utf8.DecodeRune godocs：

DecodeRune在p中解包第一个UTF-8编码并返回符文及其宽度（以字节为单位）。 如果编码无效，则返回（RuneError，1），这是正确的UTF-8的不可能结果。