[英]C# precision loss when dividing a double
函數bellow傳遞一個字符串“1004233”並打印以下輸出:
D1 = 1.004233
D2 = 0.00423299999999993
D3 = 4232.99999999993
D4 = 4232
我需要D4打印4233而不是4232.如何阻止這種精確損失的發生?
public string someFunc(String s){
string retval = "0";
try{
int id = int.Parse(s);
double d = (double)id / (double)1000000;
Console.WriteLine("D1 = " + d);
d = d - Math.Truncate(d);
Console.WriteLine("D2 = " + d);
d = d * (double)1000000;
Console.WriteLine("D3 = " + d);
retval = "" + Math.Truncate(d);
Console.WriteLine("D4 = " + retval);
}catch(Exception ex){}
return retval;
}
這是標准的浮點問題 。
請改用decimal
。
雖然decimal
也沒有無限精度,但它們在基數10中實現,因此它們將為您提供預期的結果。
使用十進制算術而不是浮點(雙精度)。 更多信息:
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.