繁体   English   中英

检查浮点值的精度

[英]Precision of the inspected floating-point values

由于前一个问题,我有这个问题。 在那里,我有一个值25.3999996185302734375,在Visual Studio 2010,Eclipse CDT和gdb中都显示为25.399999618530530273(无最后4位数字)(在gdb中只是“ print 25.3999996185302734375”,它将显示25.399999618530273)。

现在,在gdb(以及Eclipse CDT)中,我可以发出

 printf "%.20f\n", var

查看更多数字的值。

我如何在Visual Studio中做同样的事情-即,如何更改检查的浮点值的精度?

我也很好奇是否可以在Visual Studio和Eclipse / gdb中更改默认精度,因为手动打印值并不那么方便。

至于获得更多数字,您很不走运。 您将不会从Visual Studio中获得超过17位的数字(以及与此相关的许多其他编程环境)。 使用gcc或基于它的任何东西,您都可以按要求获得任意数字。

您可以查看我的文章Dyadic Fractions的Print Precision随语言而变化的详细信息。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM