簡體   English   中英

檢查浮點值的精度

[英]Precision of the inspected floating-point values

由於前一個問題,我有這個問題。 在那里,我有一個值25.3999996185302734375,在Visual Studio 2010,Eclipse CDT和gdb中都顯示為25.399999618530530273(無最后4位數字)(在gdb中只是“ print 25.3999996185302734375”,它將顯示25.399999618530273)。

現在,在gdb(以及Eclipse CDT)中,我可以發出

 printf "%.20f\n", var

查看更多數字的值。

我如何在Visual Studio中做同樣的事情-即,如何更改檢查的浮點值的精度?

我也很好奇是否可以在Visual Studio和Eclipse / gdb中更改默認精度,因為手動打印值並不那么方便。

至於獲得更多數字,您很不走運。 您將不會從Visual Studio中獲得超過17位的數字(以及與此相關的許多其他編程環境)。 使用gcc或基於它的任何東西,您都可以按要求獲得任意數字。

您可以查看我的文章Dyadic Fractions的Print Precision隨語言而變化的詳細信息。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM