C＃算术问题

Question

下午好，

从来没有用C＃做过严肃的数学工作，我刚刚注意到让我困惑的事情......如果确实如此

double Test = Math.Sqrt(UInt64.MaxValue)

等于4294967296.0，也就是UInt32.MaxValue + 1 ，为什么会这样

ulong Test2 = UInt32.MaxValue * UInt32.MaxValue;

等于1？ 乍一看，在我看来溢出发生在这里......但是为什么那个产品应该适合UInt64 ？

非常感谢你。

Answer 1

第一个发生因为double没有64个尾数位，但只有大约53.所以在转换为double时， UInt64.MaxValue将四舍五入到UInt64.MaxValue+1 。 而那个Sqrt显然是2 ^ 32。 double可以完全表示来自(U)Int32任何值，但是一些较大的64位整数不能表示为double 。

第二个发生是因为你在转换为UInt64之前进行了乘法运算，即它发生在UInt32 ，显然会溢出。 将至少一个操作数转换为UInt64 ，问题将消失。

Answer 2

ulong Test2 = UInt32.MaxValue * UInt32.MaxValue

可以翻译成：

UInt32 __temp = UInt32.MaxValue * UInt32.MaxValue; // Overflow
ulong Test2 = (ulong)__temp;

因为=符号左边的操作总是没有对右边的类型进行任何推断，显然不是你想要的...

它应该是

ulong Test2 = (long)UInt32.MaxValue * UInt32.MaxValue;

这将被视为：

ulong Test2 = (long)UInt32.MaxValue * (long)UInt32.MaxValue;

并将工作。

规则在C＃规范的第16.4.2节中：

数字提升包括自动执行预定义一元和二元数字运算符的操作数的某些隐式转换。 数字提升不是一种独特的机制，而是将重载决策应用于预定义运算符的效果。 尽管可以实现用户定义的运算符以表现出类似的效果，但数字促销特别不会影响用户定义的运算符的评估。

作为数字提升的示例，请考虑binary *运算符的预定义实现：

 int operator *(int x, int y); uint operator *(uint x, uint y); long operator *(long x, long y); ulong operator *(ulong x, ulong y); void operator *(long x, ulong y); void operator *(ulong x, long y); float operator *(float x, float y); double operator *(double x, double y); decimal operator *(decimal x, decimal y); 

当重载决策规则（第14.4.2节）应用于此运算符集时，效果是从操作数类型中选择存在隐式转换的第一个运算符。 [示例：对于操作b * s，其中b是一个字节，s是short，重载决策选择operator *（int，int）作为最佳运算符。 因此，效果是b和s转换为int，结果的类型为int。 同样，对于操作i * d，其中i是int且d是double，重载决策选择operator *（double，double）作为最佳运算符。 最后的例子]