紧凑而精确的浮点数格式

Question

修复 Lua JSON 实现，我将数字格式的“%.14g "%.14g"替换为"%.17g"以防止精度损失：使用"%.17g"格式化 17 位数字始终足以允许转换 IEEE 754 双精度数（默认 Lua数字类型）转换为可以转换回精确数字的字符串表示形式。 但是，这可能会导致难看的数字格式：( ("%.17g"):format(0.1)和("%.17g"):format(0.3)由于浮点数不准确，分别导致"0.10000000000000001"和"0.29999999999999999" 。 显然%g并不总是使用数字的最短表示，以防有两个小数表示被四舍五入为同一个浮点数。

我目前正在考虑以下 hack 以获得更清晰（更紧凑）的数字格式：仅当%.16g不能产生精确表示时才使用%.17g ，例如：

local function number_to_string(num)
    local compact = ("%.16g"):format(num)
    if tonumber(compact) == num then
        return compact
    end
    return ("%.17g"):format(num)
end

使用它， 0.1和0.3被转换为更紧凑的表示形式：

> number_to_string(0.1)
0.1
> number_to_string(0.3)
0.3

tostring产生紧凑的数字表示，但不保留精度； 此外，参考手册似乎不保证它使用任何特定格式：

> tostring(0.123456789101112)
0.12345678910111
> ("%.17g"):format(0.123456789101112)
0.123456789101112

问题）：

• 这在一般情况下是否有效，或者是否会有 Lua 个数字存在更紧凑的表示但找不到它？
• 有没有更有效的方法来找到 Lua 中的紧凑数字表示？

Answer 1

是否会有 Lua 个数字存在更紧凑的表示但找不到它？

是的。
非规范化数字的有效数字可能远少于 17 位：

string.format("%.17g", 2^-1074)  -- 4.9406564584124654e-324
string.format("%.16g", 2^-1074)  -- 4.940656458412465e-324
....
string.format("%.2g", 2^-1074)   -- 4.9e-324
string.format("%.1g", 2^-1074)   -- 5e-324

单位数近似给出相同的数字：

5e-324 == 2^-1074                -- true