也支持 Decimal 的通用計算函數

[英]Generic calculation functions that support also Decimal

簡而言之 當高精度很重要時，我正在玩計算來分析不同數字類型的可靠性和錯誤傳播。 將相同的公式應用於不同的數字類型，我嘗試使用泛型，但無法涵蓋Decimal類型。 有沒有辦法為簡單的數字函數提供一個涵蓋Float 、 Double和Decimal的通用實現？ 更多細節 計算基於穆勒序列，遞歸地應用 ...

如何在 jquery 或 javascript 中獲得精確的兩位數

[英]how to get exact two digits after decimal point in jquery or javascript

我想要小數點后的確切 2 位數字。 我嘗試了toFixed(2) function 但它返回四舍五入的 2 位數字。 這是我的代碼它返回18.70但我想要18.69提取號 ...

為什么 Swift.intValue 返回不正確/奇怪的值？

[英]Why is Swift .intValue is returning incorrect/weird values?

我正在嘗試轉換代表美元金額的十進制數。 然后我將其轉換為 NSDecimalNumber 以進行 apply.intValue 轉換。 但是我得到了奇怪的行為。 首先，將值乘以 100 時，它會給我一個不精確的值。當應用.intValue 時，我得到一個完全出乎意料的數字。 感謝您的幫助！ ...

如何在不損失精度的情況下解碼NSDecimalNumber？

[英]How would I decode a NSDecimalNumber without loss of precision?

有什么辦法告訴JSONDecoder將傳入的小數轉換為字符串？ 考慮一下當AMOUNT像397289527598234759823475455622342424358363514.42時會發生什么 我想用我擁有的代碼會得到nonConformingFloatDecodingStra ...

NSDecimalNumber值的比例和精度

[英]Scale and Precision of NSDecimalNumber value

讓我們假設我有一個NSDecimalNumber類型的變量v let v = 34.596904采用自己的格式。 我想知道這個數字的精確度和規模，而不是默認值。 我沒有在NSDecimalNumber類中找到任何給出這些值的函數，或者有人想對它的工作方式有所了解。 prec ...

在 Swift 中從字符串轉換為十進制時，十進制值會被刪除

[英]Decimal values get remove when convert from String to Decimal in Swift

請檢查這個例子 它總是返回 12 而不是 12.00 我也嘗試使用NSNumber 、 Float和Double但它總是刪除零。 你能幫我解決這個問題嗎？ ...

如何從字符串解析十進制而不損失精度？

[英]How to parse Decimal from String without losing precision?

我正在處理我的應用程序中的金額，因此精度顯然非常重要，並且Decimal / NSDecimal數字應該是迅速處理金錢的方式。 我想在保持精度的同時在Decimal和String之間轉換。 （解析API響應，存儲到數據庫...） 這是我目前的解決方案： 語言環境字典負責小數點分 ...

將Firebase .value轉換為NSDecimal-Swift

[英]Converting Firebase .value to NSDecimal - Swift

我是Swift的新開發人員。 我正在使用Swift 4.2和Xcode 10.1。 我需要從firebase中提取一個表示美元和美分的數字（例如10.20），然后將其加到該數字上，除以該數字等。結果應始終在小數點后有兩個數字。 我正在嘗試使用NSDecimalNumber ，但是在 ...

Swift：正確解碼不精確的小數

[英]Swift: Decode imprecise decimal correctly

我需要正確解碼（ Decodable協議）一個不精確的十進制值，從這個問題中我了解如何正確處理 Decimal 實例化，但是解碼時我該如何做到這一點？ 如果嘗試將任何數字初始化為字符串 我收到Fatal Error: "Expected to decode String but found a nu ...

為什么NSDecimalNumber.notANumber.intValue返回9？

[英]Why does NSDecimalNumber.notANumber.intValue return 9?

我發現我的代碼中的一個錯誤是由NSDecimalNumber.notANumber.intValue返回9引起的，而我期望NaN （ NSDecimalNumber.notANumber.intValue返回值為floatValue或doubleValue ）。 有人知道為什么嗎？ ...

如何在 iOS 的 Numbers 中存儲像“2.3.1”這樣的值？

[英]how to store a value like "2.3.1" in Numbers in iOS?

我想在 iOS 的 Numbers 中存儲一個類似於 3.2.7 的值，因為我想將該值與其他值進行比較。 有可用的數據類型嗎？ 或任何技巧？ 有人對此有解決方案嗎？ ...

對NSDecimalNumber有點困惑？

[英]A little confused about NSDecimalNumber?

有一個簡短的代碼 看起來還可以，請打印“ 2128.12”。 ..... 但您可以嘗試numString = @“ 78.991”; 打印“ 78.98999999999999” .... 為什么比例無效？ 期待“ 78.99” ...

NumberFormatter string(from:NSNumber) 方法有小數位問題

[英]NumberFormatter string(from:NSNumber) method has issues with decimal places

這是我的代碼 以下是輸出和輸入doubleValueOfDecimal = 2.95699999999998 Output 2.95699999999998 Optional("2.956999999999980000")但是如果我輸入 輸出是 字符串轉換對值進行四舍五入。 有人可以解釋 ...

NSDecimalNumber到UInt64的轉換問題

[英]NSDecimalNumber to UInt64 conversion issue

我已經實現的功能是： 用0 cof使用此函數后： 但是當我用不同的cof值調用函數時。 調試128 cof值。 我發現 問題是當我將十進制值轉換為UInt64時，我收到0 ...

值超出目標c的算術運算

[英]Arithmetic operation of value that exceeds limit in objective c

我一直在嘗試關於黑客排名的問題，其中考慮了字符串的所有子字符串的加法。 這樣做，我們的答案超出了NSInteger，NSUInteger，長，非常長，兩倍的限制。 所以在這種情況下，我嘗試了 但仍然，我得到加法的錯誤答案。 我想知道在這種情況下，測試用例包含的值比限制值大得多， ...

比較NSDecimalNumber與NSNumber得到錯誤的結果

[英]Compare NSDecimalNumber to NSNumber gets wrong result

代碼很簡單，您可以復制它。 isEqualToNumber:始終返回YES ，即使我將d1與@6560601600245628930類的其他數字進行比較也可以。 是蟲子嗎？ ...

四舍五入NSDecimalNumber HalfDown

[英]Rounding NSDecimalNumber HalfDown

眾所周知，在使用精確數字（例如貨幣）進行計算時，最好使用NSDecimalNumber而不是基本float或double 。 然后，我們有舍入選項： 題： 我如何為此NSDecimalNumber執行舍入halfDown（反向的.plain ，在平局上舍入）？ 我原來的問題 ...

NSDecimalNumber舍入不能在iOS 11中使用

[英]NSDecimalNumber Rounding not working in iOS 11

我有一個自iOS 9以來就一直在商店中出售的應用程序。最近，由於四舍五入錯誤，它剛崩潰。 我正在使用Xcode 9.2（9C40b）。 我編寫了一段文本代碼，顯示在iOS 9中四舍五入的效果，但在iOS 11中卻沒有。結果應四舍五入到小數點后兩位。 在iOS 11上： myNu ...

嘗試減少Decimal屬性給出：表達式類型不明確，沒有更多上下文

[英]Trying to reduce Decimal property gives: Type of expression is ambiguous without more context

我有一個名為Transaction的核心數據實體，其屬性value Decimal類型。 我試圖減少交易的數組，以求和value屬性： 但這會導致編譯器錯誤： Type of expression is ambiguous without more context 如何通過對 ...

NSDecimalNumber在控制台中不顯示值

[英]NSDecimalNumber does not display values in console

我正在使用Xcode 9.1，當我嘗試在Xcode調試器控制台中顯示NSDecimalNumber值時，它會像這樣打印出來。 但是，當我使用NSLog（@“％@”，amount）時，它將在控制台中顯示正確的數字。 我記得這曾經工作過，做了一些更改，或者還有另一種方法可以在控制台中打 ...