cost 98 ms
为什么 8 位有符号整数 0xA3 + 0xF9 相加不会产生溢出,但有符号整数 0x9F + 0xA3 相加会产生溢出?

我在标题中给出了这些整数的十六进制值,只是为了节省空间,但我实际上是在尝试将它们添加到二进制中。 有符号二进制加法的溢出条件(据我所知)如下: 假设我们有 2 个 8 位有符号整数 x 和 y。 如果我们将 x 和 y 相加,并且它们都是正数,但结果为负数,则存在溢出。 同样,如果我们将 x 和 ...

2022-09-24 23:19:35 0 8
裁剪复数以解决 exp 中的溢出错误

我在 exp 中遇到运行时溢出错误,因为它超过了 64 位的限制,并且我无法使用 np.float128(),因为我使用的是 64 位 windows 计算机。 我可以剪辑和使用它,但是我如何剪辑一个复数并且仍然得到一个虚构和复杂的部分。 当前代码: Output是这样的: 但也希望虚项具有价值。 ...

2022-09-13 14:27:49 1 16
在 Java 中,放在括号 () 中的操作是否被视为 integer 操作? 即使我们在它前面进行了很长时间的类型转换,它也会溢出,为什么? [复制]

这个问题在这里已经有了答案: java中铸造的优先级是什么? (1 个回答) 1 小时前关闭。 这溢出 Output: 这不是 - 没有括号的乘法 Output: 我现在知道如何使用这些,但想了解类型转换是否应用于第一个值,然后如果括号不存在则执行操作? 如果有括号,则将其视为 inte ...

2022-09-09 13:23:58 2 46
计算时溢出

我在执行一些测试时意识到 c# 在计算过程中似乎没有处理溢出。 这两个计算都返回相同的结果: 不考虑-操作数,即使结果本身可以存储在 In64 变量中。 从计算的角度来看,这没有意义,但在 64 位系统上执行时就有意义。 有什么选项可以确保程序中不会出现 append 吗? 像 c# 这样的高级语言 ...

2022-09-08 12:29:54 1 50
如何禁用 Matlab Integer 溢出饱和

我想测试一块 function,从 127 开始,127+1 = -128 对我来说是正常的。 但是对于 Matlab,不......它使我的价值饱和,即使它是我的代码的理想行为。 有关于在 Simulink 上禁用此选项的说明,但是对于脚本呢? 我不知道如何禁用此功能。 ...

2022-08-05 14:17:53 4 35
如何像正常的`int`加法一样增加`numpy.ndarray`溢出?

我有两个小端格式的字节列表l1和l2 ,我想将它们加在一起,就像两个整数相加一样。 我可以将列表转换为int ,将值相加并再次获取原始列表中最长的字节数。 就像在第一个例子中一样: 在此示例中,结果将是l3 == [0x21, 0x00] 两个Z3B7F949B2343F9E5390​​E29F6 ...

2022-07-26 11:01:03 0 12
溢出和隐式转换之间有什么区别,无论是技术级还是位级(cpu-register-level)?

(我是新手,所以我说的可能不准确) 在我目前的心理 model 中,溢出是一种算术现象(在我们执行算术运算时发生),而隐式转换是一种赋值(初始化与否)现象(当我们进行右手的值不适合左的赋值时发生-手值。 但是,我经常看到“溢出”和“隐式转换”这两个概念可以互换使用,与我的预期不同。 例如,来自 ...

2022-07-24 20:50:09 1 48
Pyodbc on intersystems Caché int 溢出

刚刚接触到在 Intersystems Caché 下运行的数据库服务器。 我像往常一样尝试使用 PyOdbc, 但是当我尝试查询某些表时,我遇到了一个错误,我找不到如何解决它......似乎我有一个int溢出问题:无法查询某些表,因为 ID 列太大; 如果表太大,则无法进行count(*) . ...

2022-07-12 07:26:11 0 41
使用 -ftrapv 编译时 boost::posix_time::from_time_t 崩溃

我使用函数ptime from_time_t(time_t t); 并将t设置为像 UINT_MAX 这样的大值。 当我使用-ftrapv选项时 - 程序崩溃,因为发生签名溢出,没有选项 - 有时结果不正确(1970 年 1 月 1 日 00:00 附近)。 我不想禁用-ftrapv选项。 问题: ...

2022-07-07 11:57:55 1 30
为什么 g++ 对两个无符号数使用 jle 而不是 jbe?

在我收到此错误的情况下: 错误:假设简化条件时不会发生有符号溢出 我查看了程序集和if()使用: 有趣的是, %rdx被定义为无符号( std::size_t ),数字$0x1也被定义为无符号( 2UL在原始文件中)。 那么为什么 g++ 会决定使用jle而不是jbe呢? 注意:以防万 ...

2022-07-04 20:09:48 1 46
使用 Java 8 流从整数列表中计算最小和最大和

我正在尝试解决以下挑战: 给定五个正整数,找出可以通过将五个整数中的四个恰好相加来计算的最小值和最大值。 然后将各自的最小值和最大值打印为单行的两个空格分隔long整数。 下面可以看到我的代码能够处理一些测试用例,但其他一些我似乎无法弄清楚的失败,问题似乎在于long max赋值语句,并且 ...

2022-06-27 17:16:05 3 81
为什么在某些 C++ 编译器中,`int x = 2147483647+1;` 只给出警告但存储负值,而某些编译器给出运行时错误?

我想检查有符号int值x的反转是否位于INT_MAX和INT_MIN内。 为此,我已经反转x两次并检查它是否等于原始x ,如果是,那么它位于INT_MAX和INT_MIN内,否则不。 但是在线编译器给出了运行时错误,但我的 g++ 编译器工作正常并给出了正确的输出。 谁能告诉我原因? 错误: ...

2022-06-13 01:09:36 2 132
发现中等严重性的整数溢出或环绕漏洞

我正在尝试使用基本身份验证构建弹簧安全性。 我用 maven 中的依赖。 当我加载依赖项时,Intellij 会突出显示 pom 文件中的spring-boot-starter-security依赖项。 Intellij 对警告的解释如下: 提供传递易受攻击的依赖 org.spring ...

2022-06-07 10:59:46 0 58
Unsharp Masking opencv c++

我是 opencv 的新手,我正在使用这个标准 Image+(K*(Image-low pass filter)) 执行非锐化遮罩,但是,结果图像的值可能 <0 或 >255,我需要编写一个循环到缩小范围。 我试图写一个,但似乎它是正确的。 这是错误。 a) (k * (float)( ...

2022-06-01 23:06:42 0 47
仍然不确定 C++ 中的有符号整数溢出

在下面的代码中,我测试了哪种形式的溢出会导致 UB 并因此导致constexpr上下文中的硬错误: 预增量为 gcc 提供了一个错误(如我所料),但对 clang 没有。 更奇怪的是,标准说++x与x += 1相同,但是使用它不会再在 gcc 上产生错误(和以前一样的 clang)。 并且进 ...

2022-05-29 16:27:41 1 94

 
粤ICP备18138465号  © 2020-2022 STACKOOM.COM