如何估計用Envg用Levenberg-Marquardt算法訓練具有特定樣本集的特定網絡所需的RAM數量？

Question

我正在研究Encog（Java的3.0和3.1版本）神經網絡框架，並且想在我的神經網絡培訓中嘗試使用Levenberg–Marquardt算法。 但是，我實際的神經網絡是非常復雜的自然網絡（擁有數百個輸入神經元），並且沒有一個（我已經從數萬個簡化為136個神經網絡）似乎可以用Levenberg-Marquardt訓練（說沒有足夠的內存，而我將2個GiB專用於JVM）。 但是，當我嘗試使用簡單的（僅3個輸入神經元）網絡進行簡單的合成任務時，它的效果非常好。

問題是我該如何估計Encog使用Levenberg-Marquardt算法訓練具有特定樣本集的特定網絡所需的內存量？ 我怎么能猜到2個GiB可以適應的最大復雜度是多少（實際機器有4個，但是JVM似乎無法分配2個以上）？

Answer 1

我將嘗試使用較小的大小，確定其使用的內存量，並繼續將大小增加一倍，直到看到模式為止。 即是線性還是超線性。

順便說一句：我的電視有4 GB的內存，如果需要的話，也許是時候獲取更多的內存了。 ;）