簡體   English   中英

什么描述了NSNumberFormatter -maximumSignificantDigits?

[英]What describes NSNumberFormatter -maximumSignificantDigits?

文檔中沒有關於這意味着什么的文本,但為了不遇到麻煩,理解這一點非常重要。 有人知道數字的“有效數字”是什么嗎?

雖然這個問題的另一個答案與一般有效數字概念的正確解釋有關,但NSNumberFormatter{uses|minimum|maximum}SignificantDigits屬性與計算精度無關。

有效數字是從第一個非零數字到最后一個非零數字的數字中的數字組,通常除非尾隨零是小數 如果已知或需要相對 (百分比)錯誤,則將輸出限制為特定數量的有效數字非常有用。

首先,除非usesSignificantDigits設置為YES否則minimumSignificantDigitsmaximumSignificantDigits無效。 如果是這種情況,可能最容易用實例解釋它們的影響。

我們取數字a = 123.4567b = 1.23c = 0.00123

假設minimumSignificantDigits = 012

如果maximumSignificantDigits = 3 ,則a將格式化為“123”, b格式為“1.23”, c格式為“0.00123”。

如果maximumSignificantDigits = 4 ,那么a將被格式化為“123 0.5”, b為“1.23”和c為“0.00123”。

如果maximumSignificantDigits = 2 ,則a將被格式化為“12 0”, b為“1.2”和c為“0.0012”。

假設minimumSignificantDigits = 4

如果maximumSignificantDigits = 4 ,那么a將被格式化為“123 5”, b為“1.23 0”,並且c為“0.00123 0”。

注意:由於舍入到最近的模式,發生45次轉換,因為a中的4后面的數字是5。

請看這里有關有效數字的精彩教程。 非常簡單的解釋是:在您的應用程序中用於計算的位數。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM