計算非線性最小二乘擬合的 R^2

Question

假設我有x值、 y值和預期 y 值f （來自一些非線性最佳擬合曲線）。

如何在 R 中計算 R^2？ 請注意，此函數不是線性模型，而是非線性最小二乘 ( nls ) 擬合，因此不是lm擬合。

Answer 1

您只需使用lm函數來擬合線性模型：

x = runif(100)
y = runif(100)
spam = summary(lm(x~y))
> spam$r.squared
[1] 0.0008532386

請注意，r 平方不是為非線性模型定義的，或者至少非常棘手，引用自 R-help ：

在 R 中擬合的 nls 模型不提供 r 平方是有充分理由的 - r 平方對於一般的 nls 模型沒有意義。

r 平方的一種思考方式是將擬合模型的殘差平方和與僅由常數組成的平凡模型的殘差平方和進行比較。 在處理 nls 模型時，您不能保證這是嵌套模型的比較。 如果模型不是嵌套的，那么這種比較就沒有太大意義。

所以答案是，您可能一開始就不想這樣做。

如果您需要同行評審的證據，請參閱本文示例； 並不是說您無法計算 R^2 值，只是它可能與線性模型情況下的含義不同/具有相同的理想屬性。

Answer 2

聽起來 f 是您的預測值。 所以從它們到實際值的距離除以 n * y 的方差

所以像

1-sum((yf)^2)/(length(y)*var(y))

應該給你一個准 rsquared 值，只要你的模型相當接近線性模型並且 n 非常大。

Answer 3

作為對所問問題的直接回答（而不是爭論 R2/偽 R2 沒有用）， rcompanion包中的nagelkerke函數將報告 McFadden、Cox 和Snell 和 Nagelkerke，例如

require(nls)
data(BrendonSmall)
quadplat = function(x, a, b, clx) {
          ifelse(x  < clx, a + b * x   + (-0.5*b/clx) * x   * x,
                           a + b * clx + (-0.5*b/clx) * clx * clx)}
model = nls(Sodium ~ quadplat(Calories, a, b, clx),
            data = BrendonSmall,
            start = list(a   = 519,
                         b   = 0.359,
                         clx = 2304))
nullfunct = function(x, m){m}
null.model = nls(Sodium ~ nullfunct(Calories, m),
             data = BrendonSmall,
             start = list(m   = 1346))
nagelkerke(model, null=null.model)

soilphysics包還報告了 Efron 的偽 R2 和nls模型的調整偽 R2 值為 1 - RSS/TSS：

pred <- predict(model)
n <- length(pred)
res <- resid(model)
w <- weights(model)
if (is.null(w)) w <- rep(1, n)
rss <- sum(w * res ^ 2)
resp <- pred + res
center <- weighted.mean(resp, w)
r.df <- summary(model)$df[2]
int.df <- 1
tss <- sum(w * (resp - center)^2)
r.sq <- 1 - rss/tss
adj.r.sq <- 1 - (1 - r.sq) * (n - int.df) / r.df
out <- list(pseudo.R.squared = r.sq,
            adj.R.squared = adj.r.sq)

這也是由rcompanion包中的accuracy函數計算的pseudo R2 。 基本上，這個 R2 衡量的是你的合身程度比你只畫一條水平線穿過它們好多少。 如果您的空模型是允許僅截取模型的模型，則這對於nls模型是有意義的。 同樣對於特定的其他非線性模型，它也有意義。 例如，對於使用嚴格增加的樣條（樣條項中的 bs="mpi"）的騙局模型，最壞可能情況（例如，您的數據嚴格減少）的擬合模型將是一條平坦線，因此會導致R2為零。 調整后的 R2 也會懲罰具有更高擬合參數 nrs 的模型。 使用調整后的 R2 值已經解決了上面鏈接的論文的許多批評， http ://www.ncbi.nlm.nih.gov/pmc/articles/PMC2892436/（除了如果有人發誓使用信息標准來做模型選擇問題變成了使用哪個 - AIC、BIC、EBIC、AICc、QIC 等）。

只是使用

r.sq <- max(cor(y,yfitted),0)^2
adj.r.sq <- 1 - (1 - r.sq) * (n - int.df) / r.df

我認為如果你有正常的高斯誤差也有意義 - 即觀察到的和擬合的 y 之間的相關性（裁剪為零，因此負關系意味着零預測能力）平方，然后調整擬合參數的 nr調整后的版本。 如果y和yfitted走向相同的方向，這將是常規線性模型報告的R2和adjusted R2值。 對我來說，這至少是完全合理的，所以我不同意完全拒絕pseudo R2值對nls模型的有用性，因為上面的答案似乎暗示了這一點。

對於非正常錯誤結構（例如，如果您使用具有非正常錯誤的 GAM）， McFadden pseudo R2的定義類似

1-residual deviance/null deviance

有關一些有用的討論，請參閱此處和此處。

Answer 4

非線性模型的另一個准 R 平方是對實際 y 值和預測 y 值之間的相關性進行平方。 對於線性模型，這是常規的 R 平方。

Answer 5

作為此問題的替代方案，我多次使用以下程序：

1. 使用 nls 函數計算數據擬合
2. 使用結果模型進行預測
3. 根據模型預測的值跟蹤（繪圖...）數據（如果模型良好，點應靠近二等分線）。
4. 計算線性回歸的 R2。

向所有人致以最良好的祝願。 帕特里克。

Answer 6

使用modelr包

modelr::rsquare(nls_model, data)

nls_model <- nls(mpg ~ a /  wt + b, data = mtcars, start = list(a = 40, b = 4))

modelr::rsquare(nls_model, mtcars)
# 0.794

這與 Tom 在rcompanion資源中描述的更長的方式基本相同。

使用nagelkerke函數的更長的路

nullfunct <- function(x, m){m}
null_model <- nls(mpg ~ nullfunct(wt, m),
                 data = mtcars,
                 start = list(m = mean(mtcars$mpg)))

nagelkerke(nls_model, null_model)[2]
# 0.794 or 0.796

最后，使用預測值

lm(mpg ~ predict(nls_model), data = mtcars) %>% broom::glance()
# 0.795

正如他們所說，這只是一個近似值。