
[英]Using output cell and hidden states of one LSTM cell as input states for another
通常,在讨论堆叠 LSTM(具有独立权重)时,单元格和隐藏状态对于每个单独的单元格都是唯一的,并且不在它们之间共享。 每个 LSTM 单元以其自己的一组状态独立运行。 是否有任何理由使用一个 LSTM 单元的 output 单元 state 和隐藏的 state 作为输入单元 state 和另一个 ...
[英]Using output cell and hidden states of one LSTM cell as input states for another
通常,在讨论堆叠 LSTM(具有独立权重)时,单元格和隐藏状态对于每个单独的单元格都是唯一的,并且不在它们之间共享。 每个 LSTM 单元以其自己的一组状态独立运行。 是否有任何理由使用一个 LSTM 单元的 output 单元 state 和隐藏的 state 作为输入单元 state 和另一个 ...
[英]ValueError in model.fit in lstm
我正在尝试将 lstm model 与我读取为 csv 文件的数据相匹配。 (320,6) 是 x_train 的形状,model 给出为 这个 model.fit() 显示值错误 ...
[英]Irrelevant results of seq-to-seq LSTM
我正在尝试根据输入数字预测整数序列。 输入由 10 个整数的值组成: array([[2021001001], [2021001002],..., ,[2021335249]],dtype=int64) output如下,一个包含7个整数的数组。 array([[23, 26, 17, ... ...
[英]Does an LSTM model use trend in features?
LSTM 是否考虑了特征的趋势? 还是它只看到先前输出的趋势(Y 预测)? 为了说明,假设我们在特征 A 上有一个趋势。在我们的问题中,我们知道在现实世界中,Y 趋向于随着 A 的增加而减小(成反比)。 但是,Y 与 A 的实际值无关。 例如,如果 A 从 10 增加到 20,Y 减少 1。如 ...
[英]Stateful RNN (LSTM) in keras
想象以下数据: 和 标签以下列方式表示输入: 我正在尝试使用 keras 制作模型,以便在进行分类时,模型会记住它对前一阶段的分类,并使其具有因果关系,因为下一个预测直接依赖于前一个,有点相似到 HMM 等其他方法。 所以是这样的: Y2 = f( [x2,x3] , y1) 我已 ...
[英]Keras stateful LSTM error: Specified a list with shape [4,1] from a tensor with shape [32,1]
使用此代码,我在尝试使用 X_test 运行预测时遇到错误。 错误发生在拟合之后,而y_pred = model.predict(X_test)被执行。 错误: 在我看来,错误可能与所选的批量大小有关。 在我的研究中,我读到样本数量必须被有状态 LSTM 的批量大小整除。 于是我求了X_train和 ...
[英]Tensorflow feeding initial state into RNN or LSTM
我想将一些变量作为初始 state 输入 RNN 或 LSTM 层,并将另一个变量作为输入输入神经网络。 My Xtrain (20000,6) 是一个时序电子电路瞬态分析输入阵列,它有 20k 个样本和六个变量,Vin,Vc1,Vc2,Vc3,il1,il2。 Vin用于输入,我想输入的五个 ...
[英]InvalidArgumentError when making a stateful LSTM
我正在研究一个有状态的 LSTM 来预测股票价格。 这些是我输入数据的形状:(更新) 这是我的模型初始化: 但是当我适应这个时,我得到了错误: 据我所知,我已经正确定义了 batch_input_shape 并且没有看到我做错了什么。 编辑: 有人建议我尝试让我的样本量除以我的批量 ...
[英]feature extraction for time series data
我有一个依赖于 k 的时间序列数据,我想提取数据的特征以找到输入和输出之间的关系。 对于模型的某些参数,输出仅移动到 y 轴,就像我添加的图一样。 我想使用一个功能来捕获这些参数。 你能帮我提取这样一个 model 的特征吗? 任何来源或示例将不胜感激 ...
[英]Question on the number of samples in LSTM
ts_x.shape is (228,12,1) ts_y.shape is (228,1,1) 正如我们在这里看到的,我现在有 228 个样本,但是当我运行它时: ValueError: In a stateful network, you should only pass inputs wi ...
[英]Use Adam optimizer for LSTM network vs LBGFS
我已经修改了关于 LSTM 的pytorch 教程(正弦波预测:给定 [0:N] 正弦值 -> [N:2N] 值)以使用 Adam 优化器而不是 LBFGS 优化器。 但是,model 训练不好,无法正确预测正弦波。 由于在大多数情况下我们使用 Adam 优化器进行 RNN 训练,我想知道如 ...
[英]Can I split my long sequences into 3 smaller ones and use a stateful LSTM for 3 samples?
我正在做一个时间序列序列分类问题。 我有 80 个时间序列,全长 1002。每个序列对应于 4 个类别中的 1 个(铜、镉、铅、汞)。 我想使用 Keras LSTM 到 model 这个。 这些模型需要以[batches, timesteps, features]的形式提供数据。 由于每个 se ...
[英]Let me understand the model
我正在处理在 R 中使用 LSTM 预测电力 output 的问题。 我在 这里找到了一个非常适合我的数据的代码。 但问题是我不明白是什么意思单位输入形状 layer_dropout layer_dropout 失利亚当下面是我提到我的问题列表的代码。 ...
[英]How can I get a stateful LSTM to reset its states between epochs during a Keras Tuner search?
我正在尝试使用 Keras Tuner 调整有状态 LSTM。 我的代码工作正常,它能够训练模型,但我仍然不知道如何让 model 重置时期之间的状态。 通常我会在一个循环中一次训练 1 个 epoch 并在 epoch 之间手动 reset_states。 但是,我认为 Keras 调谐器甚至不 ...
[英]How to set up inputs for Keras stateful LSTM layer?
我在 Keras 中设置 stateful=True LSTM 层的输入时遇到问题。 这是我到目前为止所拥有的: 这似乎运行一个训练集,然后在做测试集时失败; 我假设是因为我没有正确设置样品/批号。 我只是使用随机数来尝试让有状态的 LSTM 层工作,然后我将用我的实际数据替换它,其中包含从.wa ...
[英]Save memory in call method of custom layer in keras
我试图将状态保存在“内存层”中,以获取LSTM层的最后N个步骤的激活。 问题是从call()方法中,我无法为图层分配值。 执行预测: 我收到此错误: 我该如何解决? ...
[英]TensorFlow different input and output shapes for stateful LSTM model
我想创建一个“顺序”model(您可能已经猜到的时间序列 model),它需要20天的特征大小为2的过去数据,并预测未来1天的特征大小为2 . 我发现您需要为有状态 LSTM model 指定批量大小,因此如果我指定批量大小为32 ,则 model 的最终 output 形状为(32, 2) ,我 ...
[英]nn.ModuleList not allowing to pass hidden and cell value
我有一个带有 LSTM 的 class,然后是 nn.ModuleList,我在其中定义了另外两个 LSTM 层,但是前向 function for 循环失败并出现错误“forward() takes 1 positional argument but 3 were given”。 分享了下面的代码 ...
[英]how to load a (multivariate) timeseries into a neural network /LSTM
如何加载时间序列,例如: 进入神经网络(LSTM)。 到目前为止,我已经看到了这个矩阵转置的方法( https://github.com/curiousily/Getting-Things-Done-with-Pytorch/blob/master/06.time-series-anomaly ...
[英]For LSTM variables I get error "tensorflow:Gradients do not exist for variables"
嗨,我有一个双向 LSTM 层: 如您所见,我只是从 LSTM(而不是单元状态)中使用隐藏的 state 这就是原因吗,我是否收到以下警告: 警告:tensorflow:(后向层)的变量不存在梯度: lstm_cell_2/内核:0', lstm_cell_2/recurrent_kernel ...