簡體   English   中英

在轉換浮點數期間可能會損失精度

[英]Possible loss of precision during conversion of float number

我有谷歌如何獲得java中的浮點數的2位小數。 以下是我的代碼。 最后這里float totalWeight = 0.1*levinWeight+0.8*lsmWeight; 我得到可能失去精度的錯誤? 我想首先將字符串轉換為float,然后將其設置為2位小數。

float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
DecimalFormat df = new DecimalFormat("#.##");
levinWeight = Float.valueOf(df.format(levinWeight));
lsmWeight = Float.valueOf(df.format(lsmWeight));
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;

如果你擔心精度

  • 不使用float ,它具有任何可用選項的最低精度。 我建議使用doubleBigDecimal
  • 使用涉及可以准確表示的值的操作。 0.1 * x會給出錯誤,因為0.1無法精確表示。 使用x / 10.0將減少錯誤。

我會寫這樣的東西

double levinWeight = Double.parseDouble(dataOnlyCombine[2]);
double lsmWeight = Double.parseDouble(dataOnlyCombine[3]);
double totalWeight = (levinWeight + 8 * lsmWeight) / 10.0;
// perform rounding only at the end as appropriate.

// to round to two decimal places 
double totalWeight2 = Math.round(totalWeight * 100) / 100.0;
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
DecimalFormat df = new DecimalFormat("#.##");
String totalWeightValue = df.format(totalWeight);

如果你真的想這樣做,那就使用BigDecimal。 這些浮點類非常適合精度。 看看他們:

默認的IEEE 746浮點數不適合您的需求。 或者,你可以使用整數並將它們作為100因素。所以:

  • 100相當於1.00
  • 452相當於4.52
  • 1相當於0.01

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM