也支持 Decimal 的通用计算函数

[英]Generic calculation functions that support also Decimal

简而言之 当高精度很重要时，我正在玩计算来分析不同数字类型的可靠性和错误传播。 将相同的公式应用于不同的数字类型，我尝试使用泛型，但无法涵盖Decimal类型。 有没有办法为简单的数字函数提供一个涵盖Float 、 Double和Decimal的通用实现？ 更多细节 计算基于穆勒序列，递归地应用 ...

如何在 jquery 或 javascript 中获得精确的两位数

[英]how to get exact two digits after decimal point in jquery or javascript

我想要小数点后的确切 2 位数字。 我尝试了toFixed(2) function 但它返回四舍五入的 2 位数字。 这是我的代码它返回18.70但我想要18.69提取号 ...

为什么 Swift.intValue 返回不正确/奇怪的值？

[英]Why is Swift .intValue is returning incorrect/weird values?

我正在尝试转换代表美元金额的十进制数。 然后我将其转换为 NSDecimalNumber 以进行 apply.intValue 转换。 但是我得到了奇怪的行为。 首先，将值乘以 100 时，它会给我一个不精确的值。当应用.intValue 时，我得到一个完全出乎意料的数字。 感谢您的帮助！ ...

如何在不损失精度的情况下解码NSDecimalNumber？

[英]How would I decode a NSDecimalNumber without loss of precision?

有什么办法告诉JSONDecoder将传入的小数转换为字符串？ 考虑一下当AMOUNT像397289527598234759823475455622342424358363514.42时会发生什么 我想用我拥有的代码会得到nonConformingFloatDecodingStra ...

NSDecimalNumber值的比例和精度

[英]Scale and Precision of NSDecimalNumber value

让我们假设我有一个NSDecimalNumber类型的变量v let v = 34.596904采用自己的格式。 我想知道这个数字的精确度和规模，而不是默认值。 我没有在NSDecimalNumber类中找到任何给出这些值的函数，或者有人想对它的工作方式有所了解。 prec ...

在 Swift 中从字符串转换为十进制时，十进制值会被删除

[英]Decimal values get remove when convert from String to Decimal in Swift

请检查这个例子 它总是返回 12 而不是 12.00 我也尝试使用NSNumber 、 Float和Double但它总是删除零。 你能帮我解决这个问题吗？ ...

如何从字符串解析十进制而不损失精度？

[英]How to parse Decimal from String without losing precision?

我正在处理我的应用程序中的金额，因此精度显然非常重要，并且Decimal / NSDecimal数字应该是迅速处理金钱的方式。 我想在保持精度的同时在Decimal和String之间转换。 （解析API响应，存储到数据库...） 这是我目前的解决方案： 语言环境字典负责小数点分 ...

将Firebase .value转换为NSDecimal-Swift

[英]Converting Firebase .value to NSDecimal - Swift

我是Swift的新开发人员。 我正在使用Swift 4.2和Xcode 10.1。 我需要从firebase中提取一个表示美元和美分的数字（例如10.20），然后将其加到该数字上，除以该数字等。结果应始终在小数点后有两个数字。 我正在尝试使用NSDecimalNumber ，但是在 ...

Swift：正确解码不精确的小数

[英]Swift: Decode imprecise decimal correctly

我需要正确解码（ Decodable协议）一个不精确的十进制值，从这个问题中我了解如何正确处理 Decimal 实例化，但是解码时我该如何做到这一点？ 如果尝试将任何数字初始化为字符串 我收到Fatal Error: "Expected to decode String but found a nu ...

为什么NSDecimalNumber.notANumber.intValue返回9？

[英]Why does NSDecimalNumber.notANumber.intValue return 9?

我发现我的代码中的一个错误是由NSDecimalNumber.notANumber.intValue返回9引起的，而我期望NaN （ NSDecimalNumber.notANumber.intValue返回值为floatValue或doubleValue ）。 有人知道为什么吗？ ...

如何在 iOS 的 Numbers 中存储像“2.3.1”这样的值？

[英]how to store a value like "2.3.1" in Numbers in iOS?

我想在 iOS 的 Numbers 中存储一个类似于 3.2.7 的值，因为我想将该值与其他值进行比较。 有可用的数据类型吗？ 或任何技巧？ 有人对此有解决方案吗？ ...

对NSDecimalNumber有点困惑？

[英]A little confused about NSDecimalNumber?

有一个简短的代码 看起来还可以，请打印“ 2128.12”。 ..... 但您可以尝试numString = @“ 78.991”; 打印“ 78.98999999999999” .... 为什么比例无效？ 期待“ 78.99” ...

NumberFormatter string(from:NSNumber) 方法有小数位问题

[英]NumberFormatter string(from:NSNumber) method has issues with decimal places

这是我的代码 以下是输出和输入doubleValueOfDecimal = 2.95699999999998 Output 2.95699999999998 Optional("2.956999999999980000")但是如果我输入 输出是 字符串转换对值进行四舍五入。 有人可以解释 ...

NSDecimalNumber到UInt64的转换问题

[英]NSDecimalNumber to UInt64 conversion issue

我已经实现的功能是： 用0 cof使用此函数后： 但是当我用不同的cof值调用函数时。 调试128 cof值。 我发现 问题是当我将十进制值转换为UInt64时，我收到0 ...

值超出目标c的算术运算

[英]Arithmetic operation of value that exceeds limit in objective c

我一直在尝试关于黑客排名的问题，其中考虑了字符串的所有子字符串的加法。 这样做，我们的答案超出了NSInteger，NSUInteger，长，非常长，两倍的限制。 所以在这种情况下，我尝试了 但仍然，我得到加法的错误答案。 我想知道在这种情况下，测试用例包含的值比限制值大得多， ...

比较NSDecimalNumber与NSNumber得到错误的结果

[英]Compare NSDecimalNumber to NSNumber gets wrong result

代码很简单，您可以复制它。 isEqualToNumber:始终返回YES ，即使我将d1与@6560601600245628930类的其他数字进行比较也可以。 是虫子吗？ ...

四舍五入NSDecimalNumber HalfDown

[英]Rounding NSDecimalNumber HalfDown

众所周知，在使用精确数字（例如货币）进行计算时，最好使用NSDecimalNumber而不是基本float或double 。 然后，我们有舍入选项： 题： 我如何为此NSDecimalNumber执行舍入halfDown（反向的.plain ，在平局上舍入）？ 我原来的问题 ...

NSDecimalNumber舍入不能在iOS 11中使用

[英]NSDecimalNumber Rounding not working in iOS 11

我有一个自iOS 9以来就一直在商店中出售的应用程序。最近，由于四舍五入错误，它刚崩溃。 我正在使用Xcode 9.2（9C40b）。 我编写了一段文本代码，显示在iOS 9中四舍五入的效果，但在iOS 11中却没有。结果应四舍五入到小数点后两位。 在iOS 11上： myNu ...

尝试减少Decimal属性给出：表达式类型不明确，没有更多上下文

[英]Trying to reduce Decimal property gives: Type of expression is ambiguous without more context

我有一个名为Transaction的核心数据实体，其属性value Decimal类型。 我试图减少交易的数组，以求和value属性： 但这会导致编译器错误： Type of expression is ambiguous without more context 如何通过对 ...

NSDecimalNumber在控制台中不显示值

[英]NSDecimalNumber does not display values in console

我正在使用Xcode 9.1，当我尝试在Xcode调试器控制台中显示NSDecimalNumber值时，它会像这样打印出来。 但是，当我使用NSLog（@“％@”，amount）时，它将在控制台中显示正确的数字。 我记得这曾经工作过，做了一些更改，或者还有另一种方法可以在控制台中打 ...