astype float32对于整数的float64出错

Question

我确信这是由于我对如何在不同的浮点精度之间进行投射的理解失效，但是有人可以解释为什么在32比64位表示中，该值的变为低于其真实值的3？

>>> a = np.array([83734315])
>>> a.astype('f')
array([ 83734312.], dtype=float32)
>>> a.astype('float64')
array([ 83734315.])

Answer 1

32位浮点数可以精确地表示尾数的约7个十进制数字。 您的号码需要更多，因此无法准确表示。

发生的机制如下：

32位浮点数具有24位尾数。 您的数字需要精确表示27位，因此最后三位被截断（设置为零）。 你的号码的三个最低位是011 ₂ ; 这些都设定为000 ₂ 。 观察到011 ₂是3 ₁₀ 。

Answer 2

float32只有24位有效位精度，大约是7位数（log10（2 ** 24）= 7.22）。 您希望它能准确存储一个8位数字，这通常是不可能的。