[英]Floating point calculation error in Java
帮帮我,在加上负数的双精度值时遇到问题
一个显示问题的示例程序:
double newX = 850.0;
double delta = -1.6994427191177073E12;
double total = delta + newX;
System.out.println("newX:" + newX);
System.out.println("delta:" + delta);
System.out.println("total:" + total);
但是给定的输出是:
newX:850.0
delta:-1.6994427191177073E12
total:-1.6994427182677073E12
我希望总价值约为“ 848.30055729”。 如何处理此计算?
问候,
丹尼斯
计算正确。
让我们从科学计数法转换您的数字开始
-1.6994427191177073E12
到十进制定点表示法:
-1699442719117.7073
这是因为E12
表示E
左边的数字乘以10 12 。
一旦执行了该数字和850.0
,就可以得到结果
-1699442718267.7073
通过将小数点一直移到最左侧将其转换为科学计数法后,程序将输出结果。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.