[英]Difference between exact and approximate representation by double-precision floating-point
“由双精度浮点数精确表示”和“由双精度浮点数近似表示”之间有什么区别?
标准双精度浮点运算可以表示小于 2^53 的 integer 乘以 2 的幂的数字。 例如 2.25 等于 9 * 2^(-2),可以精确表示。 如果你取数字 0.1 = 1/10,那就是 xxx....xxx.6 形式的某个数字乘以 2^(-56)。 它不是 integer 乘以 2 的幂。它被四舍五入为浮点数,误差为 0.4 x 2^(-56)。 0.1 不能精确地表示为浮点数。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.