![](/img/trans.png)
[英]Why does the floating-point value of 4*0.1 look nice in Python 3 but 3*0.1 doesn't?
[英]Why does the floating point representation of 0.1 end in 1?
我一直在写一个小数到单精度 IEEE754 浮点转换器,我发现了一些数字的差异,比如 0.1 和 0.2
让我们取 0.1,第一步是将其转换为简单的二进制表示(将小数部分乘以 2 并取整数部分)这给了我一个众所周知的循环二进制模式(001100110011 ...)
0.1(最多 26 位)的最终二进制表示为 0. 00 0110 0110 0110 0110 0110 0110。
为了将其放入 32 位浮点数,下一步是通过将小数点向右移动 4 次,删除前导 1.,并将其截断为 23 位来对其进行归一化。 这给我留下了 10011001100110011001100。大多数编程语言给我 10011001100110011001101(最后一位是 1 而不是 0)。 我在这里做错了什么?
... 删除前导 1.,并将其截断为 23 位。
错误操作: round ,而不是truncate 。 错误的操作顺序 - 舍入,然后删除前导 1。
...仍然不知道它是如何被翻转的
无限精确的二进制答案四舍五入到最接近的float
。
对于普通的float32 ,有效数是 24 位*1 。 超过 24 位的值的转换通常是一个round *2 ,而不是截断。 其余位是 110_0110_...
123 4567 8901 2345 6789 0123 4
0 . 00 0110 0110 0110 0110 0110 0110 0110 0110 ...
^----------------------------^
0 . 00 0110 0110 0110 0110 0110 0110 1 rounded
10 0110 0110 0110 0110 0110 1 encoded 23-bits
舍入发生在前导位作为编码的一部分被删除之前,因为最高有效位的位置可能会改变。
笔记:
0.000110011001100110011001100 (binary) = 0.0999999940395355224609375000 (decimal)
0.0001100110011001100110011001100110... (binary) = 0.1 (decimal)
0.000110011001100110011001101 (closer) (binary) = 0.1000000014901161193847656250 (decimal)
*1隐含最高有效 1 位,显式编码 23 位。
*2四舍五入到最接近,并列到偶数。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.