为什么我看到 Math.pow(11, 16) 出现一次性错误？

Question

我必须为我大学的一个项目计算 11^16。 不知何故Math.pow(11,16)计算出的解恰好比 WolframAlpha 或我的其他计算方法少 1。

我的代码是：

public class Test {
    public static void main(String args[]) {
        long a = 11;
        long b = 16;
        System.out.println("" + (long)Math.pow(a, b));
        System.out.println("" + squareAndMultiply(a, b));
    }

    public static long squareAndMultiply(long b, long e){
        long result = 1;
        long sq = b;
        while(e>0){
            if(e%2==1){
                result *= sq;
            }
            sq = sq * sq;
            e /= 2;
        }
        return result;
    }
}

代码的结果是：

数学.pow（11,16）：

45949729863572160

平方和乘法（11,16）：

45949729863572161

Answer 1

使用浮点运算，您处于double精度小于long精度的灰色区域（即使double精度的范围要大得多）。

double具有 53 位精度，而long可以将所有 64 位用于精度。 当您处理高达 11 ¹⁶的值时，一个double值和下一个 up 值之间的差异会变得很明显。

Java 有一个内置方法Math.ulp （“最后一个单位”），它有效地给出了连续可表示值之间的值差异。 （有double版本和float版本。）

System.out.println(Math.ulp(Math.pow(11, 16)));

8.0

这意味着大于45949729863572160的最小double精度值是45949729863572168 。

长值45949729863572161是正确的，但是您使用Math.pow获得的值45949729863572160与double精度值一样接近真正的答案，因为它的精度有限（但仍然很大）。

转换为long没有区别，因为Math.pow已经将结果计算为double ，所以答案已经偏离了一个。 您计算值的long方法是正确的。

如果您正在计算会溢出long的值，那么您可以使用 BigDecimal 而不是使用double ， BigDecimal有自己的pow方法来保持 1.0 的精度。

Answer 2

这种差异的根本原因是精度损失，因为双精度数字精确到小数点后十六位。

演示的一种方法是这个例子。

System.out.println((double)999999999999999999L);

输出：

1.0E18

Math.pow(11, 16)的输出是4.594972986357216E16 ，在转换为 long 时会转换为45949729863572160 。

如果您对了解精度损失更感兴趣，可以查看此。