将更改列从浮点数迁移到双精度值，在轨道上的 ruby 中更改更高的值

Question

我正在尝试进行迁移，将列类型从float更改为double ，因为 float 类型会舍入数据库中的某些值，例如：

发布值： 23337840
列类型浮点数的数据库中的值： 23337800

发布值： 23337870
列类型浮点数的数据库中的值： 3337900

当我运行 migrate 以加倍时，这些值会以适当的精度更正为正确的值，但是像 1 万亿这样的值是错误的。

浮点型列中的值： 1000000000000
双精度型列中的值： 999999995904

注意：当在数据库中进行新的插入时，该列的值为1万亿的double类型的列，该值是正确的。 仅当值从 float 迁移到 double 时才会发生该错误。

有谁知道为什么会发生这种情况，因为双精度值应该接受更大的值？ 有什么方法可以使数据库中已经存在的这些值保持正确？

Answer 1

MySQL FLOAT数据库列存储（默认情况下）32 位单精度浮点数。 这些值具有有限的精度，这对于非常小的或非常大的数字来说最为明显。 例如，这些是最接近 1,000,000,000,000 的可用 32 位浮点值：（具有各自的差异）

 999999799296.0  # -200,704
 999999864832.0  # -135,168
 999999930368.0  #  -69,632
 999999995904.0  #   -4,096
1000000061440.0  #  +61,440
1000000126976.0  # +126,976
1000000192512.0  # +192,512

如果你有一个介于两者之间的值，它将被转换为最接近的可用浮点数。 尝试将 integer 1,000,000,000,000 存储为 32 位浮点数实际上将存储 999,999,995,904.0，因为这是最接近的可用值，“仅”相差 4,096。

FLOAT可以表示的值是DOUBLE可以表示的值的子集。 这意味着将列从FLOAT转换为DOUBLE是无损操作。 没有进一步的精度损失，它的数值不会改变。 但是，没有办法从 32 位浮点数重构原始值，即将 999,999,995,904.0 从 FLOAT 转换为 DOUBLE 仍然是 999,999,995,904.0。

将新值存储到 DOUBLE 列中确实受益于更高的精度。 这就是为什么您可以在DOUBLE列中包含 1,000,000,000,000.0 的原因。

并不是说 Ruby 现在的浮点数是 64 位的，即 Ruby 的Float对应于 MySQL 的DOUBLE 。