[英]double.parse returning a precision difference
为什么double.parse ("1833.35")
返回值1833.349999999999
?
这是因为浮点值在机器中用二进制指数表示,而 10 不是 2 的偶数幂。因此,一些以 10 为底的分数在转换时会变成重复分数。
为了说明,只需计算出如何用二进制表示 35/100。
如果您需要绝对正确,您可以切换到使用小数而不是双精度。 Decimal 存储以 10 为底的指数的数字。
没有办法完全使用双精度或浮点数来表示。35。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.