浮点运算=从Dec到Binary的最差精度/差异是多少？

Question

因为所有已知的decimal fractions （如0.1），当存储为floating point （如double或float）时将在内部以“二进制格式”（IEEE 754）表示。 并且一些小数部分不能直接以二进制格式表示。

我还没有理解的是这种“转换”的精确度：

1.）浮点本身可以​​具有精度（即“重要”）？

2.）但是从小数部分到二进制部分的转换也有精度损失？

题：

从十进制分数转换为浮点分数时，最坏情况精度损失（“所有”可能的小数部分）是多少？

（我想知道这个的原因是，当比较十进制分数与二进制/浮点分数时，我需要考虑精度...以确定两个数字是否相同。我希望这个精度是紧密/精确的尽可能(decimal fraction == binary fraction +/- precision)

示例（仅假设）

0,1 dec => 0,10000001212121212121212 (binary fraction double) => precision loss 0,00000001212121212121212
0,3 dec => 0,300000282828282 (binary fraction double) => precision loss  0,000000282828282

Answer 1

我不完全清楚你所追求的是什么，但你可能对以下论文感兴趣，后面的文章讨论了二进制/十进制转换中涉及的许多准确性问题，包括硬案例列表。

Vern Paxson和William Kahan。 用于测试IEEE十进制二进制转换的程序。 1991年5月22日http://www.icir.org/vern/papers/testbase-report.pdf

Answer 2

浮点数越大越不准确（正方向和负方向）。 这是因为浮点值是指数格式。

但是，十进制将越来越精确地表示它使用的小数位数越多，无论它有多大。

因此，最差的精度差异将是您正在使用的任何浮点类型的数值限制。

Answer 3

由于我们被教导计算孩子时的方式，很难完全理解二元分数的精确特性。 问题是分数只能是计数系统的功率。 这似乎很明显，但基本问题是十进制将事物划分为数十，而二进制将事物划分为二十（一半）。

大多数情况下，您有两次想要计算浮点值：当它是货币值时，何时不是。 后者的范围可以从旋转轴上的编码器的输入到用于处理图形引擎的虚拟空间中的位置。 小数值在二进制中没有问题，因为它确实是一个小数值。 这就是为什么FPU几年前因3D图形而流行的原因。

问题在于代表货币，其中小数部分实际上是离散的十进制单位。 在现实世界中，你可以拥有0.01美元（取决于它是多少美元！），但这很难准确地用二进制表示。 这就是为什么你永远不应该使用二进制浮点货币。

如果你在十进制和二进制浮点之间进行转换并尝试进行比较，我会看看为什么要进行转换以及比较应该达到什么目的。

Answer 4

如果十进制值落在可表示浮点值的范围内，并且您的语言/实现具有正确舍入的转换（许多是，有些则没有），则此类转换的错误受到1/2的限制。连续浮点数之间的距离，或“ulp”（最后位置的单位）。

ulp的相对大小在精确的2的幂和下一个更大的数之间是最大的，因此当输入刚好小于1 + 1/2 ulp时，实现了decimal和double之间转换的最大相对误差，或者价值按2的幂来衡量。 这种值的一个例子是：

1.0000000000000001110223024625156540423631668090820312

（这几乎无条件地小于1 + 2 ^ -53）。

由于转换中的误差具有相对界限，因此绝对误差会随着我们将此值向上扩展2的幂而变大。

当然，如果数字超出可表示值的范围（通过太大或太小），则所有精度都会丢失。 将1e400转换为double收益infinity ; 没有我们实际输入的痕迹。 类似地，将1e-400转换为double会产生零。

Answer 5

数字越大，精度损失就越高（但可能正是您指定的数字）。

你不仅可以将非常小的数字存储在java中作为float或double，而且非常大的数字也会像9 * 10 ^ 105一样存储。

我希望这种精度尽可能紧凑/精确

您可以选择BigDecimal，您可以在其中指定，您希望获得多少精确度，但当然您会受到RAM，CPU时间以及JVM限制的限制。

您是否只对绝对精度或相对精度感兴趣？

比较精度的差异：

a = 100000000000000,0000000000000001 
b = 100000000000000,0000000000000002

layoutHonkyTonkA= 0,0000000000000001 
layoutHonkyTonkB= 0,0000000000000002

绝对精度差异相同，但相对精度差异非常大。