簡體   English   中英

十進制 Python 庫有奇怪的行為

[英]Decimal Python Library has weird behavior

我正在嘗試使用 Python 十進制來修復我的所有計算。 我將小數位限制為 3,但是,我得到了這種行為:

from decimal import *
getcontext().prec = 3

In [0]:Decimal('32.983') - Decimal('0.000')
Out[1]: Decimal('33.0')

有誰知道如何克服它? 我想得到:

Out[1]: Decimal('32.983')

如果要獲得32.983 ,則需要將精度設置為 5,而不是 3。精度是有效數字的計數,而不是小數點后的位數。

您通常不應該對中間計算的精度進行嚴格限制,因為這會影響最終結果的准確性。 您始終可以將最終結果四舍五入以進行顯示。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM