[英]tensorflow: Initializer for variable in LSTM cell
我正在尝试构建一个 RNN 来预测输入数据的情绪是正面还是负面。
tf.reset_default_graph()
input_data = tf.placeholder(tf.int32, [batch_size, 40])
labels = tf.placeholder(tf.int32, [batch_size, 40])
data = tf.Variable(tf.zeros([batch_size, 40, 50]), dtype=tf.float32)
data = tf.nn.embedding_lookup(glove_embeddings_arr, input_data)
lstm_cell = tf.contrib.rnn.BasicLSTMCell(lstm_units)
lstm_cell = tf.contrib.rnn.DropoutWrapper(cell = lstm_cell, output_keep_prob = 0.75)
value,state = tf.nn.dynamic_rnn(lstm_cell, data, dtype=tf.float32)
weight = tf.Variable(tf.truncated_normal([lstm_units, classes]))
bias = tf.Variable(tf.constant(0.1, shape = [classes]))
value = tf.transpose(value, [1,0,2])
last = tf.gather(value, int(value.get_shape()[0]) - 1)
prediction = (tf.matmul(last, weight) + bias)
true_pred = tf.equal(tf.argmax(prediction, 1), tf.argmax(labels,1))
accuracy = tf.reduce_mean(tf.cast(true_pred,tf.float32))
loss = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(logits=prediction, labels=labels))
optimizer = tf.train.AdamOptimizer().minimize(loss)
口译员返回
ValueError: An initializer for variable rnn/basic_lstm_cell/kernel of <dtype: 'string'> is required
有人可以向我解释这个错误吗?
问题是您(很可能)正在向网络提供原始输入文本。 这不在您的代码段中,但错误表明<dtype: 'string'>
:
ValueError: < dtype : 'string'> 的变量 rnn/basic_lstm_cell/kernel 的初始化程序是必需的
类型是从 LSTM 单元获得的输入推导出来的。 内部 LSTM 变量( kernel
和bias
)使用默认初始化程序进行初始化,该初始化程序(至少现在)只能处理浮点和整数类型,但无法处理其他类型。 在您的情况下,类型是tf.string
,这就是您看到此错误的原因。
现在,您应该做的是将输入的句子转换为实向量。 最好的方法是通过词嵌入,例如word2vec
,但也可以使用简单的词索引。 看看这篇文章,特别是他们如何处理文本数据。 还有一个完整的工作代码示例。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.