乘以 2 double 后，它获得了如此多的额外精度。 然后它会导致舍入（到小数点后 2 位）问题。 我假设得到 37.34，但它给出了 37.33。 （在调试模式下查看） 额外的精度 http://s8.postimg.org/9nn2bbiab/precision.jpg 知道为什么吗？ ...

我知道由于基数2而导致的双打问题： 我知道应该使用BigDecimal进行货币相关的计算，但在我的情况下，可以接受一点精度损失，请执行所有我需要做的货币计算，将货币C1转换为货币C2，再转换回货币C1。 唯一的事情是，当我以5位小数精度向客户显示结果时，此转换后C1的两个值应该匹配。 ...

输出-0.000 ，但不应该是0.000吗？ 如何在没有减号0.000情况下进行此打印？ ...

我正在使用将XLF编译器用于Power7的大型Fortran代码，它使用以下标志将精度设置为64位： -qrealsize=8 -qintsize=8 但是，最近导入的一段代码具有类似于以下内容的代码行： 我想知道XLF如何处理文字1e6吗？ 主要关注的是； 这是参考版本和修改 ...

我想知道为什么浮点数的精度问题在值不同的情况下会有所不同： 该程序的输出为： 1个 0.10000000000000000555 如果两个数字都是double类型（通常存在精度问题），那么为什么编译器没有发现值1.0的任何问题，却发现值0.1的问题。 我还不清 ...

问题。 我有一个双精度字符串“ 0.4 0.3 2.1 etc”。 我需要循环访问此列表，并计算每个数字的出现次数。 我用了 StringTokenizer stokens = new StringTokenizer(values); while(stokens.hasMoreTok ...

我正在spoj http://www.spoj.com/problems/ATOMS/上解决此问题。 我必须给出log（m / n）/ log（k）的整数部分作为输出。 我把m，n，k取了很长的时间。 当我使用长双精度计算时，我得到了错误的答案，但是当我使用浮点数时，它就被接受了。 ...

从C ++ 11标题，我想知道std::uniform_real_distribution<double>对象是否可以吐出一个大于0.99999999999999994的double？ 如果是这样，将该值乘以2将等于2。 例： ...

我刚刚阅读了IEEE 754标准，以了解如何实现单精度和双精度浮点。 所以我写了这个来检查我的理解： 输出： 我不明白的是，我期望输出的最后一行是：（2 ^ 53-1）* 2 ^（1024-52），但是最后一行上的数字大约对应于2 ^（2 ^ 10）。 我想念什么？ 如 ...

我已经在编写FORTRAN代码用于应用物理问题的数值模拟两年多了，我试图遵循Fortran Best Practices中描述的约定。 更具体地说，我将参数定义为 然后在我的代码中将它用于所有双打。 但是，我发现（在这个论坛上）如果使用其他编译器编译代码，使用KIND参数不一 ...

我有一段用Fortran和Matlab编写的代码。 他们进行完全相同的计算，即 构造一个tanh并找到其拉普拉斯算子 将一些术语相乘 该相乘的结果产生一个矩阵，将其第（4,4）个和第（6,6）个I相减。 在Fortran中，它们的差值为〜1e-20 ...

我正在尝试编译用FORTRAN编写的程序，该程序使用DISLIN库绘制图形，但是所有数据都是双精度的。 我不会失去这种精度，因此将所有内容都传递给简单精度是不可行的。 当我尝试链接到双精度库（_d）时，如果我链接到简单精度库，仍然会遇到以下错误： 我在所有绘图语句中也遇到其他此类错误 ...

尝试编译时出现以下错误： 一切似乎都是双精度的，所以我不禁认为这是一个Dislin错误，特别是考虑到它出现在参考Dislin声明中。 我究竟做错了什么？ 我的代码如下： ...

当我执行以下代码时： 这正确打印-1,350,825,904,190,559,999,913,623,552 。 我的代码确实经历了很多双打，因此我不希望从double转换为bigdecimal。 我认为BigDecimal的处理时间很长。 所以我做format.format(va ...

在Fortran代码中，我有一个数组a ，其值的范围从0.0到1.2均匀，我在寻找最接近1.0的值的索引。 在Fortran中似乎没有任何内在函数可以执行此操作，因此我对MINLOC进行了巧妙的解决：（请注意temp与a形状相同） 这似乎可以解决问题。 我对实现此目标的其他方 ...

我看到了函数double frexp (double x, int* exp); ，将双精度数分成尾数（m）和指数（e），幂为2（ 1.m * 2^e ）。 是否有类似的函数以10的幂返回该值？ 像m * 10^e这样的东西将是完美的。 ...

我正在尝试创建一种将数字转换为归一化的科学计数法的方法，这是我用来计算尾数和指数的代码： 我面临的问题是，这段代码为某些数字给出了错误的指数值，例如1000、10E + 6、10E + 9、10E + 12、10E + 13等...对于1000来说，确切地应该是1e3，但不是10e2。 ...

我正在使用CDH 5.3.0和Hive 0.12。 我有一个Hive表，其列定义为double。 我正在将数据从HDFS序列文件中的小数点后的精度以2的小数位数加载到这些双列中。 例如，在我的HDFS序列文件中，我的数据就像-100.23或345.00。 我需要选择double，因为 ...

我有一个带有Double数据类型列的MySQL表，当我插入Java Double中包含的值时，总是会出现截断错误。 Mrz 19，2015 11:26:00 AM databaseimport.MyImport executeQuery SCHWERWIEGEND：null java. ...

我的功能是在保留两个双打的比例的情况下摆脱两个双打的小数部分： 停止正常工作时输出： 在这种情况下我该怎么办？ ...