堆栈内存溢出
cost 63 ms
初学者如何处理 OverflowError: (34, 'Result too large')？

[英]How to handle OverflowError: (34, 'Result too large') as a beginner?

我是python的一个相对初学者，看到一些类似的内容，我明白了一些，但不完全明白。 我是一名数学专业的学生，我尝试解决欧拉项目中的问题。 问题是找到包含 1000 位数字的斐波那契数列中第一项的索引。 我找到了斐波那契数列的一般公式，并将其写在 python 中，如下所示。 它引发了一个错误，即 ...

处理 uint256 范围之外的数字

[英]Dealing with numbers outside of uint256 range

我正在尝试构建具有稳定性的复合公式，但我遇到了一个问题，如果有足够的天数，数量就会增加，数量将溢出 uint256 范围。 我看过只要最终结果在uint256范围内，应该没问题，但好像不是这样。 这是我正在尝试做的计算 (100 * (100+8)^100) * 10^(6 - 2*100) 作为一 ...

Rust signed modulo unsigned -> unsigned

[英]Rust signed modulo unsigned -> unsigned

在（稳定的）Rust 中，是否有相对直接的方法来实现以下功能？fn mod_euclid(val: i128, modulo: u128) -> u128; 注意类型，即“标准”欧氏模数（结果始终在[0, mod)范围内），避免中间计算中的虚假溢出/下溢。 一些测试用例：// don't- ...

int64 溢出采样 n 行数（不是 %）

[英]int64 overflow in sampling n number of rows (not %)

下面的脚本是随机抽取大约行数 (50k)。 这已经工作了几次，因此，今天早上我很震惊地发现这个错误： 我读过这篇文章。 但由于我不是总结，所以我认为它不适用。 有问题的table有 267,606,559 行。 期待任何想法。 谢谢你。 ...

为什么此代码打印出对 3 个整数进行排序的正确结果，但由于 integer 溢出而不应该打印出来？

[英]Why this code prints the correct results of sorting 3 integers, however it shouldn't due to integer overflow?

考虑以下打印3整数的升序的代码。 假设 -10^9 <= a, b, c <= 10^9。 所以阅读它们时不会溢出。 当(a + b + c) > INT_MAX时，表达式(a + b + c)应该会导致溢出，但是mid变量会打印出正确的结果。 我试图在单独的一行中打印“a + ...

如何将 integer 值转换为双倍宽度的类型？

[英]How to cast an integer value to a type with double width?

有时我需要使用双倍大小的值执行中间计算，例如 - 在这个 function 中，它返回两个数字乘以模m的乘积： 如果mod值足够接近类型T的最大值，则此转换是必要的。 因此，我必须使用两个模板参数调用此 function： 这看起来很难看，而且容易出错。 有没有办法在这样的 function 中自 ...

运行时错误：签名 integer 溢出：-2147483648 * -1 不能用类型“int”表示

[英]Runtime error: signed integer overflow: -2147483648 * -1 cannot be represented in type 'int'

下面的程序是检查一个数字（比如“n”）的质因数是否仅限于 2,3 和 5。 但是程序给我签名 integer 溢出运行时错误。 谁能帮我解决这个问题？ 这是一段代码： 程序给了我这个错误： 运行时错误：签名 integer 溢出：-2147483648 * -1 不能用类型“int”表示 ...

裁剪复数以解决 exp 中的溢出错误

[英]Clip a complex number to solve overflow error in exp

我在 exp 中遇到运行时溢出错误，因为它超过了 64 位的限制，并且我无法使用 np.float128()，因为我使用的是 64 位 windows 计算机。 我可以剪辑和使用它，但是我如何剪辑一个复数并且仍然得到一个虚构和复杂的部分。 当前代码： Output是这样的： 但也希望虚项具有价值。 ...

计算时溢出

[英]overflow during calculation

我在执行一些测试时意识到 c# 在计算过程中似乎没有处理溢出。 这两个计算都返回相同的结果： 不考虑-操作数，即使结果本身可以存储在 In64 变量中。 从计算的角度来看，这没有意义，但在 64 位系统上执行时就有意义。 有什么选项可以确保程序中不会出现 append 吗？ 像 c# 这样的高级语言 ...

在提供的情况下，为什么我需要将我的两个变量从 int 转换为 long long int？

[英]Why do I need to convert my two variables from int to long long int in the provided case?

我正在解决一个编程问题（Leetcode 上的问题 633）。 下面的代码没有运行，它给出了这个错误： 运行时错误：签名的 integer 溢出：829921 + 2146654224 不能以“int”类型表示 而下面的代码运行完美。 唯一的区别是，与上面代码中的int类型相比，变量l和h是lon ...

如何禁用 Matlab Integer 溢出饱和

[英]How to disable Matlab Integer Overflow saturation

我想测试一块 function，从 127 开始，127+1 = -128 对我来说是正常的。 但是对于 Matlab，不......它使我的价值饱和，即使它是我的代码的理想行为。 有关于在 Simulink 上禁用此选项的说明，但是对于脚本呢？ 我不知道如何禁用此功能。 ...

溢出和隐式转换之间有什么区别，无论是技术级还是位级（cpu-register-level）？

[英]Is there any difference between overflow and implicit conversion, whether technical or bit level (cpu-register-level)?

（我是新手，所以我说的可能不准确） 在我目前的心理 model 中，溢出是一种算术现象（在我们执行算术运算时发生），而隐式转换是一种赋值（初始化与否）现象（当我们进行右手的值不适合左的赋值时发生-手值。 但是，我经常看到“溢出”和“隐式转换”这两个概念可以互换使用，与我的预期不同。 例如，来自 ...

我如何比较大小 >=100 的两个数字字符串？ 因为使用 stoi 和 stoll 给我溢出 RUNTIME ERROR

[英]How I compare the two strings of digits of size >=100 ? Because on using stoi and stoll giving me overflow RUNTIME ERROR

我如何比较大小为 100 的两个数字字符串？ 因为使用 stoi 和 stoll 给我溢出 RUNTIME ERROR 在抛出 'std::out_of_range' what(): stoll 的实例后调用终止 我如何比较哪个更小/更大？ ...


排序:
质量:
 
粤ICP备18138465号  © 2020-2023 STACKOOM.COM