線性趨勢的可能性

Question

我有少量樣本（[10 16 11 16 26 17 16 16 15 13 15 14 12 12 14 20 14 12 16 21 13 13 14 16 17 18 16 14 16 23 24 12 13 13 15 16 15 14 14 16 20 17 17 15 23 18 12 19 12 11 19 17 14 18 15 23 30 24 16 14 22 17 17 17 17 20 19 27 17 36]）：

有兩種模型：

• 模型A –沒有線性趨勢，因此噪聲直方圖的中心是數據的平均值。
• 模型B –存在線性趨勢，因此噪聲直方圖的中心是與擬合的線性趨勢線的距離。

顯然，我可以選擇sigma ^ 2較小的模型來選擇更好的模型。 顯然是（B）。 但是，我不確定數據中確實存在趨勢，不僅是隨機產生的噪聲。 因此，我對兩個模型都進行了Dickey-Fuller測試，並且都在1％的限制下（“ 1％”：-3.529，A：-5.282，B：-6.149）。 哪個告訴我（A）可能是正確的模型。

所以我問一個問題：（A）是更好模型的概率是多少？

我試圖解決這個問題：我假設噪聲是正態分布的，所以我分別在（A）和（B）上將最佳正態分布放在sigma上。 因此，我得到了兩種噪音模型。 之后，我從這兩個模型中獲取了n個（原始樣本長度）樣本，並比較了它們的sigma ^ 2。 如果（A）模型sigma ^ 2較小，則我提高模型（A）更好（如果不減少）的可能性。 我在合理的時間內重復了此測試。

在Python代碼中，可能更清楚：

model_b_mu, model_b_sigma = stats.norm.fit(model_b['residual'])
model_a_mu, model_a_sigma = stats.norm.fit(model_a['residual'])

def compare_models(modela_mu, modela_sigma,  modelb_mu, modelb_sigma, length):
    repate = 20000

    modela_better = 0
    for i in range(repate):
        modela = np.random.normal(modela_mu, modela_sigma, size = length )
        modelb = np.random.normal(modelb_mu, modelb_sigma, size = length )

        # test which sigma^2 is smaller
        sigma_a = np.sum(np.sqrt(np.power(modela, 2)))
        sigma_b = np.sum(np.sqrt(np.power(modelb, 2)))
        if sigma_a < sigma_b:
            modela_better += 1

    return modela_better/repate

model_a_better = compare_models(model_a_mu, model_a_sigma, model_b_mu, model_b_sigma, len(model_a))
print(model_a_better)

這給了我：0.3152。 我解釋了這個結果：如果噪聲呈正態分布，則模型（A）更好的概率為31.52％。

我的問題是：我在想正確的方法嗎？ 如果沒有，為什么？ 我應該如何解決這個問題？

附：我不是統計學家，更像程序員，所以上述所有解決方案很可能是錯誤的。 因此，我要求一些確認。

Answer 1

這是所謂的模型選擇問題。 盡管最接近正確的方法是通過貝葉斯推理，但沒有一個正確的答案。 即，為所考慮的每個模型（兩個或多個）計算后驗概率p（model | data）。 請注意，貝葉斯推斷的結果是模型上的概率分布，而不是單個“此模型正確”的選擇。 取決於模型的任何后續結果均應在模型分布上求平均值。 還要注意，貝葉斯推理需要先於模型的先驗，也就是說，需要在沒有數據的情況下為每個模型指定先驗的概率。 這是一個功能，而不是錯誤。

考慮到上述問題，為您提到的兩個模型計算出后驗概率可能很簡單，但是首先您需要對概念框架有所了解。 在Web上搜索貝葉斯模型推斷應該會占用大量資源。 這個問題也更適合stats.stackexchange.com。