cost 172 ms
我们如何在 c++ 中以双数据类型存储 99999999?

在我们的应用程序中,我们正在从数据库表中读取数据,其中一个特定的列包含 99999999,当它以 double 形式存储时,它会更改为 1e+08,所以我的问题是为什么会发生这种变化以及可以采取哪些措施来避免这个问题。 这是演示此问题的示例代码: output d的值为1e+08 ...

2022-09-27 10:13:43 1 56
加入dfs后失去十进制精度

我遇到了一个问题。 我导入一个 csv 并将其用作 df,在导入后我看到诸如 0,000001 之类的值,然后我加入了几个 dfs 并松开了结尾的“1”。 这不是没有打印出来的情况,因为那时我正在尝试 (x/sum(x)).overWindow(partitionBy()) 并且它给出了 null。 ...

2022-09-27 05:24:16 0 17
Mathematica vs. C++ 计算结果

我有两个应该相同但给出不同结果的程序。 Mathematica 中的一个(给出正确的结果)和 C++ 中的一个(不正确)。 首先是数学: 现在是 C++: 和 对于每个案例。 Mathematica 结果为 t = 0.1867646081,C++ 结果为 t = 0.124776。 这是二次方 ...

2022-09-26 20:19:10 0 33
在输入中添加精度检查后,正则表达式不返回任何内容

我只是想弄清楚为什么在我的正则表达式中添加精度检查后我的输入没有输出任何内容。 将精度检查添加到正则表达式后,它根本不会在输入字段中显示任何内容。 我寻找了动态呈现精度值的示例,它似乎与我在代码中实现的类似: 任何人都能够弄清楚这里发生了什么? 任何帮助表示赞赏。 谢谢! ...

2022-09-26 03:36:21 2 21
只允许特定的十进制值用于一长串浮点数

我有一长串介于 0 到 100 之间的浮点数。不过,应该只出现特定的浮点数结尾。 因此,我想将 map 转换为最接近的允许小数点(例如 0.1、0.25、0.5、0.75、0.9)。 我目前正在使用 min() function 进行此操作,以寻找最接近允许的十进制结尾,每个浮点数在 0 到 100 ...

2022-09-25 06:54:41 0 13
由于精度问题而导致错误答案?

我正在对 TSP 实施贪婪方法: 从第一个节点开始。 Go 到尚未访问的最近节点。 (如果有多个,go 到索引最低的那个。) 不要忘记包括从节点 1 到最后访问的节点的距离。 但是,我的代码给出了错误的答案。 我在 Python 中实现了相同的代码,python 代码给出了正确的答案。 在我的 ...

2022-09-25 05:24:11 1 67
使用 Julia 的范围 function 使得范围值具有相同数量的有效数字

考虑 Julia 中的以下 function: output是这样的:0.0 p1 p2... 0.5 现在,p1、p2 等在小数点后有不同的位数。 我想要做的是得到一个小数点后有固定位数的 output 。 例如,我想将边界点设置为 0.00000 和 0.50000,并且还要获取范围内的点,每 ...

2022-09-24 02:59:33 2 35
Double(IEEE754 双精度 64 位)二进制表示

我想将 Java 双精度(IEEE754 双精度 64 位)转换为其二进制表示,修改 21 个最低有效位以将一些元数据嵌入双精度,将其转换回双精度,并保持 6 位小数精度。 约束:我将处理的双精度值将始终在 [-180, 180] 的范围内。 例子: 我知道符号需要保持 1 位,指数需要保持 11 ...

2022-09-22 04:07:23 1 42
使用Java的Double.parseDouble方法时如何避免丢失精度[重复]

这个问题在这里已经有了答案: 浮点数学被破坏了吗? (31 个回答) 4 小时前关闭。 我正在尝试使用 Java 的 Double.parseDouble 将字符串解析为双精度并丢失精度。 例子: 当使用具有 13 位或更少小数的双精度时,该方法按预期工作,但会丢失 14 或 15 位小数的精 ...

2022-09-22 02:50:44 1 28
如何减少代码行并使其与其他数据一起使用?

我有这样的多类: 我想找到每个类的精度(0,1,2) 这是我的代码: 如果我以前知道类和数据的数量,它就可以工作。 但现在无论我是否认识他们,我都想让它发挥作用,就像我有更多的课程一样。 如何减少代码或使其动态化? 注意:我不喜欢用图书馆来完成它。 ...

2022-09-18 14:55:09 2 41
Dart 中双重不精度的替代方案

我用 Flutter 做了一个计算器,但我忘了考虑双打的问题。 有没有什么方法可以在不使用低参数的 toStringAsFixed() 的情况下保持精度? 我想保留至少 10 个小数点和“完美”的精度。 我正在使用 Math_expressions package ...

2022-09-17 07:14:55 0 20
C 程序总是给我同样的 output 0.00?

我是 c 的新手,我的输入是 16.7 和 28.6,这是我的代码,我需要知道为什么我只得到 0.00 作为答案,必须保存高度半径和 pi 作为 double 的任何帮助表示赞赏。 ...

2022-09-16 18:15:05 1 58
十进制 Python 库有奇怪的行为

我正在尝试使用 Python 十进制来修复我的所有计算。 我将小数位限制为 3,但是,我得到了这种行为: 有谁知道如何克服它? 我想得到: Out[1]: Decimal('32.983') ...

2022-09-16 14:31:59 1 20
在 C++ 中以特定精度存储字符串中两个双精度的除法结果 [重复]

这个问题在这里已经有了答案: std::to_string(double) 的精度3 个答案 转换浮点值时设置 std::to_string 的精度 [重复] (1 个回答) 1 小时前关闭。 简短的问题: 如何以一定的精度在字符串中打印双除法的结果。 说明: 假设我想将双除法的结果存储在一个 ...

2022-09-16 05:24:19 0 14
错误:双精度类型的输入语法无效

我在创建表时使用了以下代码: CREATE TABLE box_office(movie_id INTEGER PRIMARY KEY, international_box_office FLOAT, domestic_box_office FLOAT, Worldwide_box_office F ...

2022-09-15 16:41:53 0 13
现代 Ocaml 中 31b 整数有多常见

我正在尝试做一些语言互操作的东西,并希望得到有关 31b 部署对 OCaml 开发人员社区的重要性的指导。 具体来说,对于大多数 OCaml 部署, Sys.int_size是否几乎总是63 (或者每个 JS 后端至少 ≥ 32),或者 31b 是否仍然普遍存在。 我没有方便的机器sizeof (v ...

2022-09-14 21:57:38 1 40
需要训练测试拆分来评估所有指标?

我有一个混合推荐系统。 我使用 Precision 来评估推荐系统的结果,我认为将我的数据拆分以进行训练和测试并不是必需的,因为我的推荐系统中没有任何机器学习算法,并且我不使用 MSE 或 RMSE 或其他错误测量。 你同意我吗? 或者你认为我必须在训练和测试数据集中分割我的数据? ...

2022-09-09 17:42:38 0 5
c++ 中的比较近似

有没有办法按字典顺序在std::vector<double>向量之间的比较中更改预定义<=和<的精度? 我在代码中的许多地方按字典顺序比较std::vector<double>向量,第一个组件的比例(接近 0)与其他组件的比例(-700 和 700 之间)不同。 ...

2022-09-09 16:04:30 1 40
为什么这个简单的表达式会导致错误的值

这个表达式如何为真? (13532728 + 1 + 76561197960265728) == (13532740 + 1 + 76561197960265728) 我计算了两个表达式分开,它们产生相同的值: 两者: (13532728 + 1 + 76561197960265728) 和 (1 ...

2022-09-08 01:05:02 0 45
JavaScript 浮点数未正确截断

我正在努力让浮点数正确显示。 它在大多数情况下都有效。 例如,如果我在“kWh”中输入 0.2,在“Hours used”中输入 0.04,则在“Total”中输出 0.008。但是,当我将这些值更改为 0.02 和 0.23 时,它会输出 0.046000000000000006。为什么不是 ou ...

2022-09-07 18:04:36 1 28

 
粤ICP备18138465号  © 2020-2022 STACKOOM.COM