[英]C# double precision problem
想象一下a - b <c (a,b,c是C#的双打)。 是否保证<b + c ?
谢谢!
编辑
假设与以下示例不同,不会出现算术溢出:
double a = 1L << 53;
double b = 1;
double c = a;
Console.WriteLine(a - b < c); // Prints True
Console.WriteLine(a < b + c); // Prints False
想象一下, Math.Abs(a)<1.0 && Math.Abs(b)<1.0 && Math.Abs(c)<1.0
不。假设a = c,非常大的数字,b是非常小的数字。 有可能a - b
的表示小于a
,但a + b
非常接近a
(并且更大),它仍然最终可以最精确地表示为a
。
这是一个例子:
double a = 1L << 53;
double b = 1;
double c = a;
Console.WriteLine(a - b < c); // Prints True
Console.WriteLine(a < b + c); // Prints False
编辑:
这是另一个与您编辑过的问题相符的示例:
double a = 1.0;
double b = 1.0 / (1L << 53);
double c = a;
Console.WriteLine(a - b < c); // Prints True
Console.WriteLine(a < b + c); // Prints False
换句话说,当我们从1中减去一个非常小的数字时,我们得到的结果小于1.当我们将相同的数字加到1时,由于双精度的限制,我们只得到1。
不总是:
double a = double.MaxValue;
double b = double.MaxValue;
double c = 0.1;
Console.WriteLine(a - b < c); // True
Console.WriteLine(a < b + c); // False
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.