为什么 IEEE754 中的浮点数不准确？

[英]Why Are Floating Point Numbers Inaccurate in IEEE754?

众所周知，C中的数据类型float符合IEEE754。 并且 float 有 24 位有效二进制数字。 因此，如果超过 24 位，就会出现精度损失。 这样，在不损失精度的情况下，最多可以浮点表示多少个十进制数字？ 那最大的十进制数是多少？ ...

如何在 DescTools 中为相关系数添加小数？

[英]How to add decimals to correlation coefficients in DescTools?

我正在尝试使用标准 d.pizza 数据文件的 DescTools package。 当我尝试对数据进行双变量分析时，它给出的相关系数为 0，我不知道如何改变它。 ...

删除 Pandas 中的第一个小数位

[英]Dropping the first Decimal place in Pandas

我有一个看起来接近这个的数据框 国家年生产美国 2000.0 4135059.0 美国 2001.0 3759340.0 美国 2002.0 4516827.0 我试图在每列中删除小数位。 没有改变任何东西和 也没修。 我还有其他选择吗？ ...

管理向量中的不同小数 - R

[英]Managing different decimals in a vector - R

我需要一个列表，其中第一个数字有小数，但其他数字没有。 这是一个例子： 不知道为什么，但 R 显示“.0”，即使我们单独看一下，它也不会： ...

我怎样才能摆脱小数？ （小数不知何故仍然采取行动）

[英]How can I get rid of decimal? (The decimal somehow still take action)

我正在尝试制作“时间距离和速度”，但小数点阻碍了我计算分钟部分。 就像...小时部分在某处仍然有十进制值。 这就是我要的在此示例中，距离为 130 公里，速度为 40 公里/小时我想要的答案是 但我得到的是 ...

试图在 C 中找到矩阵的逆矩阵，但程序计算不正确

[英]Trying to find the inverse of the matrix in C, but the program is not calculating correctly

有一个问题是我需要找到矩阵的逆矩阵（实际上是关于密码学，但没关系），老实说代码有效。 然而，如果您将某些数字插入矩阵，程序将无法计算它。 让我给你看一下代码： 当我尝试使用此矩阵将元素除以行列式时，就会出现我的问题： 什么时候通过 -26 （行列式）计算 1 时会打印0,0000 ，但实际上 ...

BigDecimals 的总和最终成为整数 [Ruby on Rails]

[英]Sum of BigDecimals ended up being Integer [Ruby on Rails]

我最近遇到了一个问题，大小数之和不返回大小数，而是一个整数。 sig { returns(BigDecimal) } def period_hours @applicable_items.sum { |payroll_item| payroll_item.hours_worked.to_d } ...

如何找到具有两位以上小数的浮点数？ （Python）

[英]How can I find float numbers that have more than two decimals? (Python)

我需要一个解决方案来访问所有小数点后两位以上的数字。 例如有： 需要： 非常感谢：） ...

float/double 最大二进制小数位数

[英]float/double max binary decimal places

使用 float 或 double 时，可以精确计算出多少个二进制小数位？ 我正在做一个项目，我必须得到几乎准确的数字并用二进制进行一些计算。 我读过一篇声称 39 位数的文章... 谢谢！ ...

如何仅以 2 位小数显示输出

[英]how can i show the output in only 2 decimals

<!DOCTYPE html> <html lang="en"> <head> </head> <body translate="no"> <input type="number" placeholder="user e ...

如何将输出限制为 2 个小数点

[英]how to limit output to 2 decimal points

我运行它时确实有一个小代码，它给了我一个很长的小数点如何将它缩短到 2 个小数点，我尝试使用 .replace 但它似乎对我不起作用 <html lang="en-US" class="lang-en" dir="ltr"> <head> <script ...

在文本字段中使用 inputformatter 限制两个小数点后的输入仅隐藏两个小数点后的值

[英]restricting input after two decimal point with inputformatter in textfield only hide the values after the two decimal numbers

我有一个 TextField 只允许带有两个十进制数字的数字。 现在问题是我们在两位小数点后给出的文本。 在我们给出十进制值后，我们仍然可以输入。 但是，它不会对文本字段进行任何更改。 但是，如果我们按退格键，它会删除两个小数点后键入的值。 然后只有我们才能编辑文本字段中的实际值。 有没有办法解 ...

(java) 不使用 parseint 将十进制数转换为二进制数

[英](java) convert a decimal number to binary without using parseint

我是java新手，我正在学习如何从二进制转换为十进制，反之亦然。 在二进制转十进制的情况下，我发现我可以使用 parseint，但是我看到了其他没有使用它的方法，所以我尝试将它们实现到我的代码中，但它对我不起作用，我得到了难住了。 我如何能够使用不同的方法来计算二进制到十进制并将其实现到我的代码中 ...

范围小数正负数的正则表达式

[英]regex with range decimal positive and negative number

如何允许用户使用正则表达式输入负数、正数和十进制数？ 我使用下面的(/^[-+]?[0-9]\d{0,5}(\.\d+)?$/)正则表达式，它适用于正数和负数，但范围为十进制数以获得最大数6，它不起作用。 我怎么能这样做？ 示例：如果我输入数字 123456789：对于标准格式，正数应该是 12 ...

将高长度的十六进制字符串转换为十进制

[英]Convert Hex string of high length to decimal

我正在尝试编写一个函数，该函数可以将一系列 uint_8 值（设置在数组中）转换为一个十进制数并打印出来。 这些值在一个已知但不是恒定长度 len 的数组中解析： Buf 是有序的，因此得到的十进制数的最高有效位在数组的前面，fe: -> buf[0] = 1111 1111; buf ...

如何用stretchr/testify测试小数的相等性？

[英]How to test equality of a decimal with stretchr/testify?

我无法运行单元测试来检查decimal值是否符合我的预期。 这是我尝试过的： 如您所见， sum_amount是decimal 。 然而，在测试用例中比较两者的结果与指数等略有不同。 我如何正确断言这些值与stretchr/testify 相等？ 例如这里的差异： ...

Dart/Flutter 正则表达式只允许混合分数和小数

[英]Dart/Flutter regex to only allow mixed fractions and decimals

如何在颤动的输入字段中只允许小数或混合分数？ ...

使用 floor 时删除小数位 0

[英]Remove 0 in decimal places when using floor

我在查询中使用如下 select 语句： 即使我希望我的结果类似于 123，上面的 select 语句也会返回 123.0。 如何删除“零点”并仅显示 123？ ...

excel与R中的四舍五入改变混合模型的结果

[英]Rounding in excel vs R changes results of mixed models

有谁知道excel存储小数的方式有什么区别，为什么从R保存的值在加载回R时略有不同？ 好像excel最多可以存15个小数点，R呢？ 我有一个包含很多值的数据集，在 R 中显示 6 个小数点，我正在使用它们在 lme4 中进行分析。 但我注意到，在同一个数据集（保存在两个不同的文件中）上，模型有时会 ...

使用 EditText 更改 SeekBar 状态，反之亦然，使用 2 个小数空间

[英]Change the SeekBar status with EditText and viceversa with 2 decimal space

我找不到 seekBar 具有十进制值的这个用例。 我需要一个范围从 20,00 到 100000,00 的 seekBar ** 第一种情况： ** 当用户滚动 seekBar 时，它需要将进度反映到 Edittext ** 第二种情况： ** 当用户输入一个数字 ex(1 ...