如何更好地處理數據並為神經網絡設置參數？

Question

當我運行NN時，進行任何訓練的唯一方法是將X除以1000。網絡還需要在70000次之下以0.03的訓練速率進行訓練，如果這些值較大，NN會變得更糟。 我認為這是由於數據處理不當以及可能缺乏偏見所致，但我真的不知道。 Google Colab上的代碼

Answer 1

簡而言之：您提到的所有問題等等。

• 標度必不可少， 通常為0均值和1的方差 。 否則，您將迅速使隱藏的單元飽和，它們的梯度將接近零，並且（幾乎）將無法進行學習。
• 對於這樣的人工神經網絡，偏差是強制性的。 這就像是用於擬合線性函數的偏移量。 如果您丟下它，則要保持健康就非常困難。
• 您似乎正在檢查訓練數據的准確性。
• 您的訓練樣本很少。
• 乙狀結腸被證明是不好的選擇。 使用ReLU並檢查例如此處的解釋。

另外，我建議您花一些時間來學習Python，然后再進行此操作。 對於初學者，請避免使用global ，如果您不小心的話，可能會導致無法預料的行為。