如何在特定層 Keras 上進行范圍標准化

Question

下面是我用於多類分類的 model

model = Sequential()
model.add(Dense(6, input_dim = input_dim , activation = 'relu'))
model.add(Dense(3, activation = 'softmax'))
adam = optimizers.Adam(learning_rate=0.001)
model.compile(loss = 'categorical_crossentropy' , optimizer = 'adam' , metrics = ['accuracy'] )

我想將第一層產生的 output范圍標准化，即具有 relu 激活的層，介於 0 和 1 之間。 我已經檢查了 Keras 中可用的標准化層，但據我所知，它們產生的 output 均值為 0，標准差為 1。

我不確定在 Keras 的圖層上執行自定義規范化的過程是什么。

Answer 1

我建議使用 sigmoid function 因為這將 map output 到 [0,1]，而 relu 在 (0,inif