[英]Unpexpected Result of Division C#
我尝试执行以下操作:
Math.Log10(11/10);
预期答案0.04139268515822504075019997124302
C#答案0.0
真的很奇怪! 我找不到日志了吗? 需要帮忙
你应该这样说
Math.Log10(11.0/10.0);
否则11 / 10
将导致1(整数除法),并在0的对数对应地
您没有计算11/10的对数,因为11/10是1。如果要计算它,则必须使用双精度:
Math.Log10(11.0/10.0);
这是因为它首先进行11/10
的整数除法(等于1)。
将您的数字指定为双精度:
Math.Log10(11d/10d);
更改为
Math.Log10(11.0/10.0);
要么
Math.Log10(11D/10D);
尝试这个:
Math.Log10(11.0/10);
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.