cost 288 ms
使用定点算法以高精度和大数归一化向量 - Normalizing a vector with great accuracy and big numbers using fixed-point arithmetic

为什么我需要这个? 我正在创造一个关于太空的游戏。 要使太空游戏发挥作用,它需要大而准确的数字。 浮点数对于这样的应用来说并不是很好,因为如果你离世界很远,精度会更差,所以物理就不一样了,等等。 有什么问题在太空中通常倾向于 pl.nets。 所以要创建一个我必须生成球体 (pl.nets) 网格。 ...

C 定点硬件上的浮点型表示 - C float type representation on fixed point hardware

如果 CPU 没有浮点运算单元(如许多定点 DSP),C 编译器如何处理float类型及其操作? 我了解如何从浮点数转换为定点数,但问题是关于定点硬件中浮点数的表示。 编辑澄清问题: 如果变量是fixed point类型,编译器生成的代码会理想地使用定点硬件指令,这是非常有效的,但如果变量是floa ...

MSE 在高层次综合中给出负面结果 - MSE giving negative results in High-Level Synthesis

我正在尝试计算 Vitis HLS 中的均方误差。 我正在使用 hls::pow(...,2) 并除以 n,但我收到的只是一个负值,例如 -0.004。 这对我来说没有意义。 任何人都可以指出问题或对此有适当的解释吗? 除了使用 hls::pow 计算均方误差外,结果与 (a - b) * (a - ...

Verilog 中从 Q2.28 到 Q2.14 的截断有符号定点转换 - Truncated signed Fixed point conversion from Q2.28 to Q2.14 in verilog

我有一个 Verilog 模块,它提供线 output 作为签名 Q2.28 定点方法。 即 integer 部分为 2 位,小数部分为 28 位。 它可以表示的数字范围是[-2,2)。 我有一个 16 位总线来承载这些结果。 我想要 integer 部分的 2 位和小数部分的 14 位,以保持与原 ...

在 Excel 上将十进制数转换为定点二进制 - Convert decimal number to fixed point binary on Excel

我有一列包含十进制值(在本例中为正弦值,但无关紧要),例如:0,024541229,我需要将其转换为有符号定点二进制数,整个部分为 2 位( -2 到 +1 的范围足够大,因为正弦值的范围是 -1 到 +1),小数部分为 6 位。 当然会有精度损失,因为 1/(2^6) = 0,015625。 E ...

用于在带有霓虹灯 FPU 的 ARMv8 平台上的软件中模拟浮点运算的 GCC 标志 - GCC flag for emulating floating point operations in software on ARMv8 platform with neon FPU

背景 我正在尝试在运行 Ubuntu 20.04 LTS aarch64 的 Raspberry Pi 4 Model B Rev 1.4 上编译和运行它。 lscpu命令的输出是: 在这个环境中运行的gcc的目标是aarch64-linux-gnu 。 我了解 Cortex-A72 具有浮 ...

128.128 Solidity 中的无符号定点除法 - 128.128 Unsigned fixed point Division in Solidity

我目前正在尝试找出一种对两个 128.128 uint256 数字执行定点除法的具体方法。 这似乎是一件相当简单的事情,但无法编写解决方案。 对于两个 64.64 定点数,以下工作正常。 但是相同的逻辑不适用于 uint256 128.128 定点数,因为您不能将 x 转换为更大的 uint ...

C:表示没有浮点数的分数 - C: Representing a fraction without floating points

我正在为没有硬件浮点支持的嵌入式系统 (MSP430) 编写一些代码。 不幸的是,在进行测距时,我需要在代码中使用分数,而精度为 1 米的短程传感器并不是一个很好的传感器。 我可以在整数中做尽可能多的数学运算,但到最后,我肯定需要两个值来计算分数; 范围和速度。 范围将是 2-500 (cm) 之间 ...

GCC:哪些目标支持定点类型? - GCC: which targets support fixed-point types?

6.16 定点类型(强调): 作为扩展,GNU C 支持 ISO/IEC DTR 18037 的 N1169 草案中定义的定点类型。GCC 中对定点类型的支持将随着技术报告草案的变化而发展。 任何目标的调用约定也可能发生变化。 并非所有目标都支持定点类型。 问题:哪些目标支持定点类型? 额外:是 ...

如何将除法运算的余数转换为 C 中的定点? - How do you convert the remainder of a division operation to a fixed point in C?

在这一点上我非常理解定点的概念,但是我在进行逻辑跳跃时遇到了麻烦。 我正在使用 gcc 使用 M68000 CPU,没有任何类型的标准库。 使用 DIVU/DIVS 操作码,我可以获得商和余数。 给定存储在无符号 32 位 memory 空间中的 Q16.16 定点值,我知道我可以将商放在高 16 ...

当一个数字可以完全整除时,如何在 python 中显示两个小数点? - How to display two decimal points in python, when a number is perfectly divisible?

目前我正在尝试解决一个问题,我应该将答案打印到小数点后两位而不四舍五入。 我为此目的使用了以下代码 我们得到的output是: 但是当我尝试打印一个可整除的数字时,真正的问题就开始了,小数点后只显示一个零。 我使用了与上面相同的代码,但现在 现在显示的output是 必须做什么来纠正这个错误? ...

是什么导致了这个错误:SSE 寄存器返回,SSE 被禁用? - What is causing this error: SSE register return with SSE disabled?

我是 kernel 开发的新手,我需要编写一个 Linux kernel 模块来执行多个矩阵乘法(我在 x64_6 平台上工作) 我正在尝试对这些操作使用定点值,但是在编译期间,编译器遇到此错误: 我对 SSE 或这个问题了解不多,但根据我的发现以及对这个问题的大多数答案,它与 kernel 空间 ...

在数组的每个索引处从给定的一组选择中查找或近似数字的概率分布,没有重复 - Find or approximate probability distribution over numbers from a given set of choices at each index of an array with no repeats

我正在寻找一种算法,它可以生成或迭代地近似解决下面描述的问题。 给定一个长度为 N 的数组和数组的每个索引 i 的一组有限数字 S i 。 现在,如果我们要在每个索引 i 处放置一个来自 S i的数字来填充整个数组,同时确保该数字在整个数组中是唯一的; 给定所有可能的 arrays,每个索引处每个数 ...


 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM