具有大量數據樣本的神經網絡的參數值應該是多少？

Question

我已經完成了使用多層前饋，反向傳播結構在Python中對神經網絡進行編碼的工作。 在這種網絡結構中，我在輸入層有24個節點，在隱藏層有18個節點，在輸出層有1個節點。 對於小型數據集，我獲得了很好的訓練結果，但是對於大型數據輸入，我無法設置恆定參數的值，例如學習率，動量率等。對於輸入值，我有以下輸入樣本：

[[1,0,1,0,1,0,1,0,1,1,1,1,0,0,0,0,0,1,1,1,0,1,0,1]
 [1,0,1,0,1,0,1,0,1,1,1,1,0,0,0,0,0,1,1,1,0,1,0,1]
 [1,0,1,0,1,0,1,0,1,1,1,1,0,0,0,0,0,1,1,1,0,1,0,1]
 .
 . .........................                     ]

並輸入目標值的樣本為：

[[-20.0]
 [-10.0]
 [30.0]
  .
  .....]

樣本總數約為5000。

learning_rate = 0.01 
momentum_rate = 0.07

它給出了很好的結果，但是花費了很多時間並且在500000左右進行了迭代。對於學習率和動量率的設置是否有任何好的建議，這樣我就可以快速獲得結果。 還是應該引入提高學習率的比例，如果我引入學習率，那么值應該是多少？

Answer 1

為了更快地學習神經網絡，可能需要反復試驗。

如果要更快地獲得結果，則可能可以提高學習率（較大的權重調整），刪除一些隱藏層的神經元或輸入（較少的計算）或減少迭代次數，但這也可能減少測試和驗證集性能。

如果您有時間，可以對這些選項進行測試和比較，以確定是否可以針對您的問題更快地學習。