Objective-C-如何提高浮点数的精度

Question

有人可以告诉我将浮点数的精度设置为所需长度的方法吗？ 假设我有一个2504.6。 如您所见，这里的精度仅为1。我想将其设置为6。我需要这样做，因为我将此值与从[txtInput.text floatValue]获得的值进行了比较。 即使我在文本框中输入2504.6，也将增加5个精度，即2504.600098。 当我比较这两个值时，它们似乎不相等。

Answer 1

浮点数是近似值。 浮点数的存储方式不允许任意精度。 浮点数（和双精度数）旨在存储很大（或很小）的值，但不能存储精确值。

如果您需要一个非常精确的非整数，请使用一个int（或long）并缩放它。 您甚至可以编写自己的对象类来处理该问题。

他们似乎不平等

顺便说一句，这个问题已经被问过了

比较目标C中的float和double数据类型

Objective-C浮点/双精度

使浮点数仅显示两位小数

Answer 2

使用“等于”运算符比较两个浮点变量A和B并不是一个好主意，因为浮点数的精度有限。 比较浮点数的最佳方法是

fabs(A - B) < eps  

其中eps是一些非常小的值，例如0.0001

如果使用表示浮点值的字符串进行操作，则只能比较字符串而不是数字。

Answer 3

您可以使用NSDecimalNumber比较数字：

NSDecimalNumber *number = [NSDecimalNumber numberWithFloat:2504.6f];
NSDecimalNumber *input = [NSDecimalNumber decimalNumberWithString:txtInput.text];
NSComparisonResult result = [number compare:input];

if (result == NSOrderedAscending) {
    // number < input
} else if (result == NSOrderedDescending) {
    // number > input
} else {
    // number == input
}