[英]Possible loss of precision during conversion of float number
我有谷歌如何获得java中的浮点数的2位小数。 以下是我的代码。 最后这里float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
我得到可能失去精度的错误? 我想首先将字符串转换为float,然后将其设置为2位小数。
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
DecimalFormat df = new DecimalFormat("#.##");
levinWeight = Float.valueOf(df.format(levinWeight));
lsmWeight = Float.valueOf(df.format(lsmWeight));
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
如果你担心精度
float
,它具有任何可用选项的最低精度。 我建议使用double
或BigDecimal
0.1 * x
会给出错误,因为0.1
无法精确表示。 使用x / 10.0
将减少错误。 我会写这样的东西
double levinWeight = Double.parseDouble(dataOnlyCombine[2]);
double lsmWeight = Double.parseDouble(dataOnlyCombine[3]);
double totalWeight = (levinWeight + 8 * lsmWeight) / 10.0;
// perform rounding only at the end as appropriate.
// to round to two decimal places
double totalWeight2 = Math.round(totalWeight * 100) / 100.0;
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
DecimalFormat df = new DecimalFormat("#.##");
String totalWeightValue = df.format(totalWeight);
如果你真的想这样做,那就使用BigDecimal。 这些浮点类非常适合精度。 看看他们:
默认的IEEE 746浮点数不适合您的需求。 或者,你可以使用整数并将它们作为100因素。所以:
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.