为什么参数上的scipy.optimize错误条超出范围

Question

我正在查看使用python中的optimize.leastsq方法获取有关拟合参数的标准错误的方法，因为我想使用optimize.least_squares拟合某些数据，但是（由于物理原因）我在参数上存在界限，例如参数A必须为[0 ，1]。 我看到，使用协方差矩阵并乘以残差的方法会导致误差线超出参数范围。 在统计上正确和严格的工作是什么？ 在允许的范围内人为地切断错误栏，或者是否有其他方法可以将错误栏放在边界内？

import numpy as np
from scipy import optimize
import random

def f( x, p0, p1, p2):
    return p0*x + 0.4*np.sin(p1*x) + p2

def ff(x, p):
    return f(x, *p)

# These are the true parameters. 

p0 = 1.0 #In the fit we will bound p0 from 0 to 1 for e.g., some physical/modeling reason
p1 = 40
p2 = 2.0

# These are initial guesses for fits:
pstart = [0.8,40,2]

# Generate data with a bit of randomness
# (the noise-less function that underlies the data is shown as a blue line)

xdata = np.array(np.linspace(0., 1, 120))
np.random.seed(42)
err_stdev = 0.2
yvals_err =  np.random.normal(0., err_stdev, len(xdata))
ydata = f(xdata, p0, p1, p2) + yvals_err

def fit_leastsq(p0, datax, datay, function, bounds1):

    errfunc = lambda p, x, y: function(x,p) - y

    all_results= optimize.least_squares(errfunc, p0, args=(datax, datay),bounds=bounds1 )
    pfit=all_results.x
    J=final_results.jac #the jacobian matrix
    pcov=np.linalg.inv(2*J.T.dot(J)) #This calculates the inverse Hessian which is used to approximate the covariance

    s_sq = (errfunc(pfit, datax, datay)**2).sum()/(len(datay)-len(p0))
    pcov = pcov * s_sq

    error = [] 
    for i in range(len(pfit)):
        try:
            error.append(np.absolute(pcov[i][i])**0.5)
        except:
            error.append( 0.00 )
    pfit_leastsq = pfit
    perr_leastsq = np.array(error) 
    return pfit_leastsq, perr_leastsq 

#Set Bounds on Parameters 
bounds=([0,0,0],[1,40,2.5]) #this means first parameter is restricted 0-1, second is 0-40, and this is 0-2.5

pfit, perr = fit_leastsq(pstart, xdata, ydata, ff, bounds)

print("\n# Fit parameters and parameter errors from lestsq method :")
print("pfit = ", pfit)
print("perr = ", perr)

我得到的结果是：

# Fit parameters and parameter errors from lestsq method :
pfit =  [ 1.         39.97612883  1.98430673]
perr =  [0.07545234 0.07611141 0.01546065]

请注意，参数上的perr超出了边界范围。 也许有一种获取方向性错误的方法？ 也就是说，例如，第一个参数上的错误栏将仅在负方向上显示？

Answer 1

有多种方法可以解释这种拟合的误差。 您正在尝试这样考虑：如果我有x_0且错误x_e ，则实际值有68％的可能性在x_0 - x_e和x_0 + x_e 。 找到您的x_0的算法不知道这一点，因此您可以通过以下方式看到误差：以线性方式，误差至少从卡方函数的曲率估算出来。 因此，错误只是“拟合质量”的度量。 此外，它被线性化。 对于大错误，您的函数的非线性属性可能会发挥作用，而此ansatz或标准错误传播都无法捕获它们。

但是，从纯粹的物理学角度来看，如果希望误差线显示可能具有有意义物理值的合理区域，则应相应地进行斩波。