[英]BigDecimal.divide() yields extra digit of precision when called with a MathContext
鉴于简单的计划
import java.math.*;
import static java.math.BigDecimal.ONE;
import static java.lang.System.out;
public static void main(String[] args) {
StringBuffer ruler = new StringBuffer(" ");
for (int i = 0; i < 5; i++) {
ruler.append("1234567890");
}
out.println(ONE.divide(new BigDecimal(47), 50, RoundingMode.HALF_UP));
out.println(ONE.divide(new BigDecimal(47), new MathContext(50, RoundingMode.HALF_UP)));
out.println(ruler);
out.println(ONE.divide(new BigDecimal(6), 5, RoundingMode.HALF_UP));
out.println(ONE.divide(new BigDecimal(6), new MathContext(5, RoundingMode.HALF_UP)));
}
这是输出:
0.02127659574468085106382978723404255319148936170213 0.021276595744680851063829787234042553191489361702128 12345678901234567890123456789012345678901234567890 0.16667 0.16667
我希望第二行输出与第一行相同。 这是一个错误,还是我误解了BigDecimal
文档?
JVM版本:
$ java -version java version "1.7.0_45" Java(TM) SE Runtime Environment (build 1.7.0_45-b18) Java HotSpot(TM) 64-Bit Server VM (build 24.45-b08, mixed mode)
您有缩放比例 (小数位总数)与精度 (有效位数)。 对于介于-1和1之间的数字, 精度不计算小数点和非零小数位之间的任何零,但是标度确实如此。
BigDecimal.divide
的第二个参数是一个比例 。 所以你的第一个输出得到50位小数。
MathContext
构造函数的参数是一个精度 。 因此,对于第二个输出,您将获得50个有效小数位,以及小数点和2之间的一个额外零。
First decimal place (start counting scale from here)
↓
0.02127659574468085106382978723
↑
First significant digit (start counting precision from here)
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.