如何在Keras中實現恆定神經元？

Question

我在Python / Keras中有以下神經網絡：

input_img = Input(shape=(784,))

encoded = Dense(1000, activation='relu')(input_img)  # L1
encoded = Dense(500, activation='relu')(encoded)     # L2
encoded = Dense(250, activation='relu')(encoded)     # L3
encoded = Dense(2, activation='relu')(encoded)       # L4

decoded = Dense(20, activation='relu')(encoded)      # L5
decoded = Dense(400, activation='relu')(decoded)     # L6
decoded = Dense(100, activation='relu')(decoded)     # L7
decoded = Dense(10, activation='softmax')(decoded)   # L8

mymodel = Model(input_img, decoded)

我想做的是讓每個層4~7中的一個神經元成為常數1（以實現偏置項），即它沒有輸入，具有固定值1，並且完全連接到下一層。 有一個簡單的方法嗎？ 非常感謝！

Answer 1

您可以創建常量輸入張量：

constant_values = np.ones(shape)
constant = Input(tensor=K.variable(constant_values))

話雖如此，你的用例（偏見）聽起來應該只是使用use_bias=True這是默認值，如@gionni所述。