機器學習算法預測/查找/收斂以糾正數學模型中的參數

Question

我目前正在嘗試找到一種機器學習算法，該算法可以預測數學模型（MM）中使用的大約 5 - 15 個參數。 MM 有 4 個不同的常微分方程 (ODE)，並且會添加更多的常微分方程，因此需要更多的參數。 大多數參數可以測量，但其他參數需要猜測。 我們知道所有的 15 個參數，但我們希望計算機猜測 5 個甚至 10 個。為了測試參數是否正確，我們在 MM 中填寫參數，然后用數值方法計算 ODE。 隨后，我們使用我們知道（並想猜測）的參數計算模型計算與我們猜測參數的 MM 的計算值之間的誤差。 對模型 ODE 值的計算進行了多次，ODE 實時表示一分鍾，我們計算了 24 小時，因此進行了 1440 次計算。

目前我們正在使用粒子過濾器來猜測變量，這可以正常工作，但我們想看看是否有更好的方法來猜測模型中的參數。 粒子過濾器為一個參數取一個隨機值，該值位於我們知道的參數范圍之間，例如 0,001 - 0,01。 這是為每個需要猜測的參數完成的。

Answer 1

如果您可以運行大量完整的模擬（數萬次），您可以嘗試黑盒優化。 我不確定黑盒是否適合您（我不熟悉粒子過濾器）。 但如果是這樣， CMA-ES在這里是一個明確的匹配項，並且易於嘗試。

您必須為您的參數指定一個損失函數（例如整個模擬的總誤差平方和）和一個初始猜測（均值和西格瑪）。 在黑盒算法中，CMA-ES 是一個完善的基線。 如果您只有很少（最多幾百個）連續參數且沒有梯度信息，則很難被擊敗。 然而，任何可以利用問題的 ODE 性質的不那么黑箱的東西都會做得更好。