獲取Keras LSTM模型中特定單詞的概率

Question

我在上面訓練了一個w2v模型和一個keras LSTM模型：

pretrained_weights = w2v_model.wv.syn0
vocab_size, emdedding_size = pretrained_weights.shape

keras_lstm_model = Sequential()
keras_lstm_model.add(Embedding(input_dim = vocab_size, output_dim = emdedding_size, weights = [pretrained_weights]))
keras_lstm_model.add(LSTM(units = emdedding_size))
keras_lstm_model.add(Dense(units = vocab_size))
keras_lstm_model.add(Activation('sigmoid'))
keras_lstm_model.compile(optimizer = 'adam', loss = 'sparse_categorical_crossentropy', metrics = ['mae','acc'])

現在，我有一句話

“這是我的 ”

我想得到這個詞的概率

“帽子”

。

我可以這樣做嗎？

Answer 1

您的模型輸出具有vocab_size神經元。 如果調用keras_lstm_model.predict您將獲得每個單詞成功keras_lstm_model.predict序列的不同概率。 問題是您需要哪種概率？ 如果您需要一個預測中所有概率之和為1的值，則應將最后一個激活函數替換為softmax。