如何在深度學習網絡中強化前向傳播信號？

Question

我之前在Matconvnet 上問過一個問題，深度網絡的 marix 輸出是統一值而不是變化值？ 當我調試用於密度估計的深度網絡時，我意識到輸出的信號消失/衰減。 我怎樣才能加強信號，使其不會變得平坦 - 並且峰值和基值保持高幅度？

Answer 1

在 LRN 歸一化中使用較低的 alpha 可以增強輸出。