[英]Possible loss of precision during conversion of float number
我有谷歌如何獲得java中的浮點數的2位小數。 以下是我的代碼。 最后這里float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
我得到可能失去精度的錯誤? 我想首先將字符串轉換為float,然后將其設置為2位小數。
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
DecimalFormat df = new DecimalFormat("#.##");
levinWeight = Float.valueOf(df.format(levinWeight));
lsmWeight = Float.valueOf(df.format(lsmWeight));
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
如果你擔心精度
float
,它具有任何可用選項的最低精度。 我建議使用double
或BigDecimal
0.1 * x
會給出錯誤,因為0.1
無法精確表示。 使用x / 10.0
將減少錯誤。 我會寫這樣的東西
double levinWeight = Double.parseDouble(dataOnlyCombine[2]);
double lsmWeight = Double.parseDouble(dataOnlyCombine[3]);
double totalWeight = (levinWeight + 8 * lsmWeight) / 10.0;
// perform rounding only at the end as appropriate.
// to round to two decimal places
double totalWeight2 = Math.round(totalWeight * 100) / 100.0;
float levinWeight = Float.parseFloat(dataOnlyCombine[2]);
float lsmWeight = Float.parseFloat(dataOnlyCombine[3]);
float totalWeight = 0.1*levinWeight+0.8*lsmWeight;
DecimalFormat df = new DecimalFormat("#.##");
String totalWeightValue = df.format(totalWeight);
如果你真的想這樣做,那就使用BigDecimal。 這些浮點類非常適合精度。 看看他們:
默認的IEEE 746浮點數不適合您的需求。 或者,你可以使用整數並將它們作為100因素。所以:
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.