Keras的“ Tanh激活”功能-編輯：隱藏層

Question

Tanh激活函數將輸出限制為[-1,1]。 我想知道如果輸入（功能和目標類）是以1-hot-Encoded形式給出的，它如何工作？

keras如何（在內部管理）激活函數的負輸出，以將它們與類標簽（以一種熱編碼形式進行比較）進行比較-表示僅0和1（無“-” ive值）

謝謝！

Answer 1

首先，您根本不應該在輸出層中使用它們。 根據您的損失函數，您甚至可能會出錯。 像mse這樣的損失函數應該能夠獲取tanh的輸出，但是這沒有多大意義。

但是，如果談論的是隱藏層，那么您就很好了。 還請記住，在將層的輸出提供給激活函數之前，存在一些偏向可以訓練到層的偏移。