十进制 Python 库有奇怪的行为

Question

我正在尝试使用 Python 十进制来修复我的所有计算。 我将小数位限制为 3，但是，我得到了这种行为：

from decimal import *
getcontext().prec = 3

In [0]:Decimal('32.983') - Decimal('0.000')
Out[1]: Decimal('33.0')

有谁知道如何克服它？ 我想得到：

Out[1]: Decimal('32.983')

Answer 1

如果要获得32.983 ，则需要将精度设置为 5，而不是 3。精度是有效数字的计数，而不是小数点后的位数。

您通常不应该对中间计算的精度进行严格限制，因为这会影响最终结果的准确性。 您始终可以将最终结果四舍五入以进行显示。