[英]double.parse returning a precision difference
為什么double.parse ("1833.35")
返回值1833.349999999999
?
這是因為浮點值在機器中用二進制指數表示,而 10 不是 2 的偶數冪。因此,一些以 10 為底的分數在轉換時會變成重復分數。
為了說明,只需計算出如何用二進制表示 35/100。
如果您需要絕對正確,您可以切換到使用小數而不是雙精度。 Decimal 存儲以 10 為底的指數的數字。
沒有辦法完全使用雙精度或浮點數來表示。35。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.