计算混淆

Question

我正在将应用程序从VB6移植到C＃。 我发现有一种计算方法特别导致我遇到问题。 基本上可以归结为

opperandA *.01 / opperandB

我的具体示例是：

1 * .01 / 12

在VB6（和Windows计算器）中，我得到8.3333333333e-4。

但是，在C＃（和所有其他计算器）中，我得到.00083333。

第二个数字对我来说很有意义，但是我必须复制第一个结果，并且我想理解它，所以为什么VB6和Windows计算器会产生奇怪的结果？

Answer 1

8.3333333333e-4与0.00083333相同。 它等于：

8.3333333333 * 10^-4
= 8.3333333333 times ( ten to the power of -4 )
= 8.3333333333 * 0.0001
= 0.00083333333
N.b. After rounding

e代表指数，相关的Wikipedia文章为http://en.wikipedia.org/wiki/Exponentiation