[英]Wrong calculation result on uint64_t
Debian 64位。
我有这个代码
#include <stdlib.h>
#include <stdio.h>
#include <stdint.h>
int main(int argc, char ** argv){
uint64_t b = 5000000000;/* 5 000 000 000 */
uint64_t a = (b*b)/2;
printf("a = %llu\n",a);
return 0;
}
Javascript,我的手动计算器和操作系统中的虚拟计算器给我的结果是1.25×10 ^ 19,而我上面的c程序给出的是a = 3276627963145224192
我究竟做错了什么 ?
b*b
中间操作的值大于64位寄存器可以容纳的值,因此它会溢出。
由于b (= 5 000 000 000) > 2^32
,因此b*b > 2^64
而且,由于5000000000 * 5000000000 / 2
永远无法放入64位变量中,因此,如果不使用特殊方法(如使用数组表示数字)就无法在C中计算该值。
另外,正如@Joachim Pileborg所建议的那样,您应将unsigned long long
值分配给b
,
uint64_t b = 5000000000ull;
uint64_t
无法保存b*b
的结果。
b*b
的结果是25000000000000000000。即25x10 ^ 18。
但是uint64_t
最多可以保留最大值6553255926290448384。因此,在b*b
操作中会发生溢出。
由于此溢出,您无法获得实际结果!
#include <stdlib.h>
#include <stdio.h>
#include <stdint.h>
int main(int argc, char ** argv){
uint64_t b = 5000000000LL;/* 5 000 000 000 */
uint64_t a = (((uint64_t)b)*b)/2LL;
printf("a = %llu\n",a);
return 0;
}
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.