cost 34 ms
如何将浮点数格式化为 x 有效数字

我希望将浮点数打印为多个有效数字,我认为小数点分隔符前面的数字是有效的。 因此,使用 3 位有效数字,我想要以下内容: 基本上,如果不需要,我想抑制小数部分,但我不想舍入 integer 部分。 (而且我想避免使用科学记数法。) 我怎样才能做到这一点? 我尝试了很多方法,但没有一个能真正做到我想要 ...

2022-09-27 18:52:32 1 30
Java int cast to float cast to int 不等于原始 int

使用这个片段: 如果int i = 1234; 那么 output 是1234 如果int i = Integer.MAX_VALUE; 那么 output 等于Integer.MAX_VALUE 但是,如果int i = 1234567990; ,则 output 为1234567936 ,不 ...

2022-09-27 17:05:00 2 32
使用 nalgebra 和 rug 中的浮点类型

是否可以用 rug::Float 类型替换 rust f64 基本类型? 如果是这样,必须实现哪些特征才能在代数矩阵上调用 svd()? 非常感谢,马克斯 ...

2022-09-27 16:38:25 0 6
我们如何在 c++ 中以双数据类型存储 99999999?

在我们的应用程序中,我们正在从数据库表中读取数据,其中一个特定的列包含 99999999,当它以 double 形式存储时,它会更改为 1e+08,所以我的问题是为什么会发生这种变化以及可以采取哪些措施来避免这个问题。 这是演示此问题的示例代码: output d的值为1e+08 ...

2022-09-27 10:13:43 1 56
了解涉及浮点类型的除法后的舍入结果

在 Postgres 14 中,我看到了对我来说没有意义的四舍五入的结果。 试图了解发生了什么。 在所有情况下,我都将19除以3 。 将integer值转换为real : 产生一个值6.333333333333333 产生一个值6.333333333333333 但是,将双方都转换为real收益率: ...

2022-09-25 23:13:13 1 36
方实矩阵的 Hadamard 积的时钟周期 [关闭]

关闭。 这个问题需要细节或清晰。 它目前不接受答案。 想改进这个问题? 通过编辑此帖子添加详细信息并澄清问题。 4 小时前关闭。 改进这个问题我想了解方实矩阵的 Hadamard 乘积所需的时钟周期。 从this page看来,双精度乘法需要8个时钟周期。 因此,对于两个实数 $N\time ...

2022-09-24 11:14:20 0 17
操作系统如何避免频繁触发浮点异常的性能开销?

IEEE 浮点标准定义了当浮点运算的结果不清楚或不希望出现时发生的几种异常:下溢、上溢、不精确、无效和被零除。 如您所见,此类异常可能会非常频繁地发生:即使是 0.2+0.1 也应该触发inexact异常。 对于一段涉及 N 个浮点指令的数字代码,N/2 或更多可能会触发这些异常中的至少一个。 ...

2022-09-24 08:24:13 1 27
使用 Julia 的范围 function 使得范围值具有相同数量的有效数字

考虑 Julia 中的以下 function: output是这样的:0.0 p1 p2... 0.5 现在,p1、p2 等在小数点后有不同的位数。 我想要做的是得到一个小数点后有固定位数的 output 。 例如,我想将边界点设置为 0.00000 和 0.50000,并且还要获取范围内的点,每 ...

2022-09-24 02:59:33 2 35
组装MIPS:无法调试浮点电源function

我一直在尝试在 Assembly MIPS 32 位中实现浮点 function,但我无法查明确切的故障。 它似乎在 mul.s $fd, $fsrc1, $fsrc2 命令中,因为特定浮点寄存器的内容保持不变(我也用系统调用检查了这一点,在每种情况下打印内容)但我似乎无法找到修复程序。 有人有什 ...

2022-09-23 18:54:02 1 9
我应该如何在软件中实现通用 FMA/FMAF 指令?

FMA是一个融合乘加指令。 glibc中的fmaf (float x, float y, float z) glibc调用vfmadd213ss指令。 我想知道这个指令是如何实现的。 根据我的理解: 添加x和y的指数。 将x和y的尾数相乘。 标准化x * y的结果,但不四舍五入。 比较z的指数 ...

2022-09-23 13:22:10 1 44
打印浮点数

我知道。 我知道。 这个问题之前已经回答过,但我有一个稍微不同且更具体的问题。 正如标题所示,我的目标是计算出cout的32 bits序列。 前面问题中提供的解决方案是使用联合。 这一切都很好。 而且我设法打印了一个浮点数的位。 我的问题是为什么bitset<32>(uf.f)不起作用, ...

2022-09-22 11:32:30 2 50
Double(IEEE754 双精度 64 位)二进制表示

我想将 Java 双精度(IEEE754 双精度 64 位)转换为其二进制表示,修改 21 个最低有效位以将一些元数据嵌入双精度,将其转换回双精度,并保持 6 位小数精度。 约束:我将处理的双精度值将始终在 [-180, 180] 的范围内。 例子: 我知道符号需要保持 1 位,指数需要保持 11 ...

2022-09-22 04:07:23 1 42
使用Java的Double.parseDouble方法时如何避免丢失精度[重复]

这个问题在这里已经有了答案: 浮点数学被破坏了吗? (31 个回答) 4 小时前关闭。 我正在尝试使用 Java 的 Double.parseDouble 将字符串解析为双精度并丢失精度。 例子: 当使用具有 13 位或更少小数的双精度时,该方法按预期工作,但会丢失 14 或 15 位小数的精 ...

2022-09-22 02:50:44 1 28
Python 不正确的 Output 使用 float() [重复]

这个问题在这里已经有了答案: 为什么“a == x or y or z”总是计算为 True? 我如何将“a”与所有这些进行比较? (6 个回答) 5 小时前关闭。 我正在尝试计算形状面积和周长,然后比较它们。 例如,如果我想得到长度 = 5 的正方形的面积,那么我希望面积 = 长度 * ...

2022-09-22 02:45:14 1 18
TypeError:/:'float'和'str'不支持的操作数类型[重复]

这个问题在这里已经有了答案: 为什么“a == x or y or z”总是计算为 True? 我如何将“a”与所有这些进行比较? (6 个回答) 6 小时前关闭。 我正在尝试根据长度和边数计算面积。 我想根据形状输入将形状编号设置为 3、4 等; 本质上是将字符串转换为 int 并在方程 ...

2022-09-22 01:04:44 2 34
JSON 数值限制

JSON 是否有任何数字限制,或者它基本上是关于数字的“任何事情”,它只是由接收方来验证和对数值进行错误检查。 例如: 以上将是仅支持 float64 和 int64 的语言中的越界值,那么这通常是如何完成的呢? 还是 JSON 仅指定语法(例如,对于 int 0|[1-9]\d+ ,由处理器决 ...

2022-09-21 23:22:24 1 20
如何在 python 中删除出生年份的小数点 [关闭]

关闭。 这个问题需要调试细节。 它目前不接受答案。 编辑问题以包含所需的行为、特定问题或错误以及重现问题所需的最短代码。 这将帮助其他人回答问题。 4 小时前关闭。 改进这个问题 嗨,大家好。 我试图通过从 float64 转换为 int64 来删除生日后的小数点,这给了我一个错误。 ...

2022-09-21 07:15:36 0 16

 
粤ICP备18138465号  © 2020-2022 STACKOOM.COM