繁体   English   中英

在转换浮点数期间可能会损失精度

[英]Possible loss of precision during conversion of float number

我有谷歌如何获得java中的浮点数的2位小数。 以下是我的代码。 最后这里float totalWeight = 0.1*levinWeight+0.8*lsmWeight; 我得到可能失去精度的错误? 我想首先将字符串转换为float,然后将其设置为2位小数。

float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
DecimalFormat df = new DecimalFormat("#.##");
levinWeight = Float.valueOf(df.format(levinWeight));
lsmWeight = Float.valueOf(df.format(lsmWeight));
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;

如果你担心精度

  • 不使用float ,它具有任何可用选项的最低精度。 我建议使用doubleBigDecimal
  • 使用涉及可以准确表示的值的操作。 0.1 * x会给出错误,因为0.1无法精确表示。 使用x / 10.0将减少错误。

我会写这样的东西

double levinWeight = Double.parseDouble(dataOnlyCombine[2]);
double lsmWeight = Double.parseDouble(dataOnlyCombine[3]);
double totalWeight = (levinWeight + 8 * lsmWeight) / 10.0;
// perform rounding only at the end as appropriate.

// to round to two decimal places 
double totalWeight2 = Math.round(totalWeight * 100) / 100.0;
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
DecimalFormat df = new DecimalFormat("#.##");
String totalWeightValue = df.format(totalWeight);

如果你真的想这样做,那就使用BigDecimal。 这些浮点类非常适合精度。 看看他们:

默认的IEEE 746浮点数不适合您的需求。 或者,你可以使用整数并将它们作为100因素。所以:

  • 100相当于1.00
  • 452相当于4.52
  • 1相当于0.01

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM