繁体   English   中英

使用MathContext调用时,BigDecimal.divide()会产生额外的精度数字

[英]BigDecimal.divide() yields extra digit of precision when called with a MathContext

鉴于简单的计划

import java.math.*;
import static java.math.BigDecimal.ONE;
import static java.lang.System.out;

public static void main(String[] args) {
    StringBuffer ruler = new StringBuffer("  ");
    for (int i = 0; i < 5; i++) {
         ruler.append("1234567890");
    }

    out.println(ONE.divide(new BigDecimal(47), 50, RoundingMode.HALF_UP));
    out.println(ONE.divide(new BigDecimal(47), new MathContext(50, RoundingMode.HALF_UP)));
    out.println(ruler);
    out.println(ONE.divide(new BigDecimal(6), 5, RoundingMode.HALF_UP));
    out.println(ONE.divide(new BigDecimal(6), new MathContext(5, RoundingMode.HALF_UP)));
}

这是输出:

 0.02127659574468085106382978723404255319148936170213 0.021276595744680851063829787234042553191489361702128 12345678901234567890123456789012345678901234567890 0.16667 0.16667 

我希望第二行输出与第一行相同。 这是一个错误,还是我误解了BigDecimal文档?

JVM版本:

 $ java -version java version "1.7.0_45" Java(TM) SE Runtime Environment (build 1.7.0_45-b18) Java HotSpot(TM) 64-Bit Server VM (build 24.45-b08, mixed mode) 

您有缩放比例 (小数位总数)与精度 (有效位数)。 对于介于-1和1之间的数字, 精度不计算小数点和非零小数位之间的任何零,但是标度确实如此。

BigDecimal.divide的第二个参数是一个比例 所以你的第一个输出得到50位小数。

MathContext构造函数的参数是一个精度 因此,对于第二个输出,您将获得50个有效小数位,以及小数点和2之间的一个额外零。

  First decimal place (start counting scale from here)
  ↓
0.02127659574468085106382978723
   ↑
   First significant digit (start counting precision from here)

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM