比较 python 中的浮点值，最多保留 3 个小数位

Question

我正在使用np.isclose()比较 2 个浮点值，但对于某些用例，这不能按预期工作。

例如

np.isclose([1000.01], [1000.02])

返回True但它应该返回False 。

我无法将rtol to 0.0 ，因为我只需要将这些值比较到小数点后 3 位。

Answer 1

np.isclose(a, b, rtol=10**-5, atol=10**-8)检查：

np.abs(a - b) <= (atol + rtol * np.abs(b))

这意味着对于您的值 ~1000 和默认值，如果差异是，它将返回True

<= (10**-8 + 10**-5 * np.abs(1000))
<= 0.01000001

所以你的值在那个距离之内，因此它的评估结果为真。

---

如果您的要求是

我只需要将这些值比较到小数点后 3 位。

那么您不需要相对容差，而只想指定绝对容差。

np.isclose([1000.01, 1000.0013, 1000.0047, 1000.0041, 1000.0045], 
           [1000.02, 1000.0014, 1000.0052, 1000.0052, 1000.005500001],
           rtol=0, atol=10**-3)

#array([False,  True,  True, False, False])