使用 scipy.optimize curve_fit 找到曲线的参数并得到“无法估计参数的协方差”

Question

我正在尝试使用 scipy.optimize 来拟合实验数据并得到：

optimizeWarning: Covariance of the parameters could not be estimated
  warnings.warn('Covariance of the parameters could not be estimated',

这是我试图用指数曲线拟合的数据：

这是我尝试拟合数据的代码部分：

# using curve_fit
from scipy.optimize import curve_fit

# defining a function

# exponential curve
def _1_func(x,  a0,b0,beta):
    """
    calculates the exponential curve shifted by bo and scaled by a0
    beta is exponential 
    """
    y = a0 * np.exp( beta * x ) + b0
    return y

# the code to fit
# initial guess for exp fitting params

numpoints = spectrum_one.shape[0]

x = F[1:numpoints] # zero element is not used
y = np.absolute(spectrum_one[1:numpoints])/signal_size

# making an initial guess
a0 = 1
b0 = y.mean()
beta = -100  

p0 = [a0, b0, beta]

popt, pcov = curve_fit(_1_func, x, y, p0=p0)
perr = np.sqrt(np.diag(pcov)) # errors

print('Popt')
print(popt)
print('Pcov')
print(pcov)

UPDATE1：结果是：

Popt
[ 1.00000000e+00  7.80761109e-04 -1.00000000e+02]
Pcov
[[inf inf inf]
 [inf inf inf]
 [inf inf inf]]

更新 2 - 此处的拟合原始数据格式为 csv： https://drive.google.com/file/d/1wUoS3Dq_3XdZwo3OMth4_PT-1xVJXdfy/view?usp=share_link

据我所知，ic pcov 有 inf - 它表明 curve_fit 无法计算协方差并且无法使用 popt 参数，它们不是该数据的最佳选择。

如果我可视化数据，我会得到下一个结果：

为什么我会收到此类错误？ （我认为这对于 curve_fit 来说是一件容易的事）

也许我需要以某种方式扩展我的数据？

Answer 1

解决方案

在将数据拟合到指数 function 之前放大 x 可以解决此问题，或者缩小起始 beta 值（请参阅讨论的解释）。

# using curve_fit
from scipy.optimize import curve_fit
import numpy as np

spectrum_one = np.genfromtxt('spectrum_one.csv', delimiter=',', skip_header = 1)

# defining a function
# you may also just change the starting beta value and get the same effects.
# x_scale = 1
x_scale = 10000000
y_scale = 1

# exponential curve
def _1_func(x,  a0,b0,beta):
    """
    calculates the exponential curve shifted by bo and scaled by a0
    beta is exponential 
    """
    y = (a0 * np.exp( beta * (x/x_scale) ) + b0)*y_scale
    return y

# the code to fit
# initial guess for exp fitting params

x = spectrum_one[:,0] # zero element is not used
y = np.absolute(spectrum_one[:,1])

# making an initial guess
a0 = 1
b0 = y.mean()
beta = -100 
# Scaling beta have same effect:
# beta = -100/10000000 

p0 = [a0, b0, beta]

popt, pcov = curve_fit(_1_func, x, y, p0=p0)
perr = np.sqrt(np.diag(pcov)) # errors

print('Popt')
print(popt)
print('Pcov')
print(pcov)

Output的协方差矩阵和估计系数如下：

Popt
[ 2.22681758e-03  6.16059861e-04 -2.69660695e+01]
Pcov
[[ 4.41126691e-09  1.26838432e-12 -5.34773724e-05]
 [ 1.26838432e-12  1.15025798e-10 -5.58666885e-06]
 [-5.34773724e-05 -5.58666885e-06  1.55785623e+00]]

注意上面的function可以直接用于原始未缩放数据的曲线拟合（x是未修改的频率）：

plt.plot(x,y)
plt.plot(x,_1_func(x,*popt))

解释

最小二乘算法（ Levenberg–Marquardt 算法）之所以不能在原始起始条件下收敛，可能是因为起始点的Jacobian J在数值上本质上是一个零向量：

如果我们计算关于系数向量β的雅可比矩阵：

如果 x 与原始beta=-100处于原始比例，则雅可比行列式中的指数分量在数值上将非常接近于零。 因此，由于数值稳定性问题（除以非常小的浮点值），LM 算法没有给出系数增量δ = Δ β的合理值，或者根本无法收敛，因为雅可比行列式基本上为零（参见上文）方程）。

事实上，如果你在开始时尝试一个非常小的beta = -100/10000000 （这样指数的数值不接近于零），没有数据缩放AT ALL x_scale = y_scale = 1 ，算法仍然收敛：

Popt
[ 2.22681758e-03  6.16059861e-04 -2.69660695e-06]
Pcov
[[ 4.41126692e-09  1.26838469e-12 -5.34773723e-12]
 [ 1.26838469e-12  1.15025798e-10 -5.58666883e-13]
 [-5.34773723e-12 -5.58666883e-13  1.55785621e-14]]

您可能想参考此答案进行进一步讨论： scipy curve_fit raises "OptimizeWarning: Covariance of the parameters could not be estimated"