cost 16 ms
如何在汇编中手动计算 IEEE-754 32 位浮点加法?

我正在关注“Linux 64 位英特尔汇编语言编程简介”一书,其中一项任务是我们应该尝试手动添加存储在 memory 中的两个浮点数。 在下面的解决方案中,我尝试计算指数,减去它们各自的偏差,然后将每个浮点数移动它们以创建一种我应该能够加在一起的实数。 我被困在如何可行地将总和分解回一个不同的尾数 ...

2022-08-15 23:59:12 0 24
“整数浮点数”精确转换为浮点数

我正在使用一个使用int表示金额的库。 例如,以下是它的样子: 599 --> 5.99 美元 500 --> $5.00 5 --> 0.05 美元 0 --> $0.00 -599 --> $-5.99 我写了以下 function 进行精确的浮点转换而不会导 ...

2022-08-15 18:40:01 2 41
为什么 matlab 会截断这些变量的附加值? [关闭]

关闭。 此问题不可重现或由拼写错误引起。 它目前不接受答案。 此问题是由拼写错误或无法再重现的问题引起的。 虽然类似的问题可能是这里的主题,但这个问题的解决方式不太可能帮助未来的读者。 9 小时前关闭。 改进这个问题当我尝试将这些变量加在一起时,我失去了所有的精度。 它似乎也只发生在添加? ...

2022-08-15 11:21:56 0 25
rust 用于浮点类型的循环?

在 c++ 我经常做这种循环:for(float t=0; t < threshold; t += step_size) {} 我试图在 rust 中复制它。 我当然可以使用 while 循环,但是使用上述语法的 for 循环有一些我喜欢的东西: 您可以立即告诉循环在一行中的行为方式(而不 ...

2022-08-15 03:36:07 1 41
“双 + 1e-6”是什么意思?

这个 cpp 的结果是72.740 ,但答案应该是72.741mx = 72.74050000; printf("%.3lf \n", mx); 所以我在网站上找到了解决方案,它告诉我添加"+1e-7"并且它有效mx = 72.74050000; printf("%.3lf \n", mx + ...

2022-08-13 10:10:58 2 79
获得不通过字符串往返的浮点的最少数字?

给定一个表示十进制实数的字符串s , to_float返回最接近该数字的 IEEE 双精度浮点数。 给定一个 IEEE double f , to_string返回最短的字符串fs使得to_float(fs) == f 。 例如,使用 Dragon4 算法我的问题是:最短的字符串是什么,它是一个有 ...

2022-08-13 03:57:59 1 35
Python 的十进制(和其他精确的十进制库)是如何实现的,为什么它们比内置的浮点计算慢?

我一直在阅读浮点指南以试图澄清有关浮点数的一些要点,我假设 Python 的十进制库是链接页面上提到的“有限精度十进制”的实现。 它提到“Limited-Precision Decimal”“与 IEEE 754 二进制浮点基本相同,只是指数被解释为以 10 为底。因此,没有意外的舍入错误。此外, ...

2022-08-12 23:53:37 1 27
是否可以使用次正规浮点数来表示均匀间隔的输入数据?

假设我想使用浮点进行计算,但我想以恒定分辨率表示我的输入数据。 一种可能的答案是从整数开始并将它们转换为浮点数,但如果您必须重复这样做,这可能会很浪费。 看起来次正规浮点是一种可能的解决方案,因为在该区域中,数字的大小仅由尾数而不是指数控制。 问题是,在 CPU 中如何处理浮点数(即支持次正规数的 ...

2022-08-12 18:26:46 0 19
在 OpenCL 中为单个操作强制舍入模式

假设我想在我的 CUDA kernel 中执行x除以y的(单精度)除法,并且不管其他什么,得到一个四舍五入的结果(= 四舍五入到正无穷大)。 这很容易:而不是: 我写的: 我可以对rn (最近的圆形)、 rd等做同样的事情。 我如何在 OpenCL 中做同样的事情? 如果我查看数学函数的文档(Ope ...

2022-08-11 13:05:25 1 11
如何获得浮点除法的正确下限?

我想获得两个正浮点数相除的下限。 我只使用非负数,但红利可能很大(尽管没有溢出或下溢的风险)。 所以我天真地这样做了: 在其他地方我有一个断言: 但令我惊讶的是,断言有时会在请求该操作之后失败。 当它发生时, total的初始值非常大。 然后我意识到发生了什么事。 当商足够大时,它已经是 inte ...

2022-08-10 23:03:58 0 24
如何使用 AVX2 高效地执行 double/int128 转换?

我正在尝试制作一个用户可以在很宽范围内移动的软件(至少 1Mly 直径范围和至少 0.1mm position 表示精度)。 我想用 128 位定点数来代表 position。 但是,数学计算(例如距离、平方、除法、积分)不适合固定(或整数),所以我使用双浮点或单浮点进行数学运算。 (通常在两个 ...

2022-08-10 20:44:59 0 57
SwiftUI 字符串格式将我的值四舍五入到最接近的整数?

我希望你们一切都好! 我有一个(可能)愚蠢的问题。 我正在尝试通过重新创建 Instagram UI 来学习 SwiftUI 开发。 现在,我正在处理显示单个用户及其个人资料统计信息的用户页面。 我的字符串格式出现了一些奇怪的行为。HStack (spacing: 24){ VStack ...

2022-08-10 15:50:37 2 18
有没有比我做的更规则和 OCaml 式的方法来圆一个浮点数? [关闭]

关闭。 这个问题是基于意见的。 它目前不接受答案。 想改进这个问题? 更新问题,以便可以通过编辑这篇文章用事实和引用来回答它。 5 小时前关闭。 改进这个问题我试图将浮点数舍入到特定的小数位数,这就是我想出的: 所以我必须使用Format来获取一个包含我想要的小数位数的字符串,然后将其转换回 ...

2022-08-10 13:47:14 0 29
使用 Nodejs 将格式化的浮点数传递给 API

我正在与 API 之一集成,他们想要一个具有 2 个十进制精度的浮点数作为请求 object 的属性值。 例如。 说 taxAmount 属性。 所以这个值应该是 12.00 或 1.23 或 0.00 等。 现在我们确实有 toFixed() 或 toPricision() 方法,它们返回格式化 ...

2022-08-10 08:46:32 0 27
sys.float_info 机器是特定的吗?

我想知道 sys.float_info.max/ sys.float_info.min 是否是所有机器上相同的固定值,还是取决于机器的 memory 或其他因素(并使值因机器而异)。 谢谢! ...

2022-08-10 08:04:21 1 26
字符串解析:浮点数与 integer 有何区别?

我正在编写自己的 JSON 解析器(谁没有?)并偶然发现了这个谜团: 显然我可以有一个浮点数和一个具有相同特征的 integer 数。 例如什么是: "123456" ? 根据strol和strtod我可以解释为浮点数和十进制数。 strtol 需要一个可选的 +/- 符号,后跟“数字序列”, ...

2022-08-10 05:49:12 1 23
我们如何用定点代替浮点运算?

我想知道是否可以使用定点格式执行浮点运算? 如果是,它在内部是如何工作的,这意味着如何在寄存器上执行算术运算? ...

2022-08-09 06:58:39 0 21
将无符号 64 位 integer 转换为浮点数的方法? [复制]

这个问题在这里已经有了答案: 如何在 x86(32 位)程序集中将无符号 integer 转换为浮点数? (2 个回答) 刚刚关门。 我需要一个 x86 序列来将 64 位无符号 integer 转换为浮点数。 使用有符号的 integer 就足够简单了,但似乎没有一条指令可以用无符号的指令来 ...

2022-08-08 21:37:02 1 28

 
粤ICP备18138465号  © 2020-2022 STACKOOM.COM