RBF網絡推廣不佳

Question

我正在嘗試針對分類問題的RBF。 輸入矩陣的大小為40,000 x 2500，輸出矩陣的大小為25 x 2500。 輸出矩陣僅包含0和1。

如大多數示例所述，RBF可以在訓練數據中提供100％的准確性，在我的情況下也是這樣。 但是，當我使用新的輸入矩陣（通過nntool中的模擬網絡通過40,000 x 2500尺寸的輸入矩陣）測試網絡時，准確性非常差。 我嘗試了各種各樣的SPREAD值，但是它們都沒有幫助推廣網絡。

輸入數據集的值在-960.0到+960.0之間。

我嘗試過的一些SPREAD值包括：

5e-9, 5e-6, 0.005, 0.01, 0.25, 1.0, 5.0, 100.0, 450.0

一些論壇建議使用無監督網絡對輸入數據進行聚類，並使用聚類數據作為RBF的輸入。 我使用了具有25個聚類的k-means聚類 ，但是結果是徒勞的。

有人可以建議如何提高RBF的測試准確性嗎？

提前致謝 ！！

Answer 1

RBF隱藏層更易於以無監督的方式進行訓練，可以使用k均值或K-NN查找中心 ，對於散布參數，您可以計算每兩個最近的群集的中心之間的距離平均值。 現在讓N為樣本數，理論上RBF網絡至少需要N / 2個中心（隱藏節點）。 您的輸入大小為40,000，並且您只有25個k均值中心，請再次對20000個聚類進行處理，然后看是否有效。 您的隱藏層大小太小。 據我所知，輸出層的權重應采用監督方式進行計算，並采用梯度下降法。