计算有效位数

Question

我需要将任何浮点数转换为5位有效数字格式。 它表示五个第一个非零数字（最后一个数字未向上舍入）。

例

Float("%.#{5}g" % 0.007425742694) => 0.0074257
Float("%.#{5}g" % 3852.574257425742694) => 3852.6

对我来说这种方法的问题是3852.574257425742694四舍五入为3852.6，我需要3852.5。

Answer 1

我知道这些数字是非负面的。 人们可以做到以下几点：

码

def floor_it(f, sig_digits=5)
  pow = sprintf("%e", f)[-3..-1].to_i
  (f *= 10**(-pow)).floor(sig_digits-1) * 10**(pow)
end

例子

floor_it 0.007425742694        #=> 0.0074257
floor_it 3852.574257425742694  #=> 3852.5

说明

对于

f = 385.74957425742694 
sig_digits = 5

步骤如下。 首先用科学记数法表示数字（作为字符串）。 请参阅内核#sprintf 。

a = sprintf("%e", f)
  #=> "3.857496e+02"

我们希望提取最后两位数字。

b = a[-3..-1]
  #=> "02"

将其转换为整数。

pow = b.to_i
  #=> 2

移动f的小数点，使小数点左边有一个非零数字。

f *= 10**(-pow) 
  #=> 3.8574957425742697

使用方法Float＃floor获取所需的数字。

d = f.floor(sig_digits-1)
  #=> 3.8574957425742697.floor(4)
  #=> 3.8574

最后，将小数点移回其初始位置。

d * 10**(pow)
  #=> 385.74