从预训练 Model 添加层时弹出错误

Question

我正在尝试使用 12 维生理信号作为输入来微调预训练时间序列 model，但是，我的数据集只是一维。 因此，我构建了第一个 conv1d 层，并从预训练的 model 设置了权重。之后，我从预训练的 model 添加了 rest 部分。但是，错误弹出并显示尺寸不匹配。

以下是我的代码和错误的详细信息：

#Load Whole Model and Weight of the First Conv1d Layer
BaseModel =  keras.models.load_model('model.hdf5')
input_w = BaseModel.layers[1].get_weights()[0]
input_w_1_lead = input_w[:,1,:].reshape(input_w.shape[0], 1, input_w.shape[2])

#Creat the Input and First Conv1d Layer
model = tf.keras.Sequential([
    keras.Input(shape=(4096, 1), dtype=np.float32, name='signal'),
    keras.layers.Conv1D(64, 16, padding='same', 
                        use_bias=False, name='conv1d_1',),
    ])

#Set the Weight from Pre-Trained Model
model.layers[0].set_weights([input_w_1_lead])

#Add the Rest Parts from Pre-Trained Model
for layer in BaseModel.layers[2:]:
    model.add(layer)

#And here is the error:
ValueError: Exception encountered when calling layer "add_1" (type Add).

A merge layer should be called on a list of inputs. Received: inputs=Tensor("Placeholder:0", shape=(None, 256, 128), dtype=float32) (not a list of tensors)

Call arguments received by layer "add_1" (type Add):
  • inputs=tf.Tensor(shape=(None, 256, 128), dtype=float32)

然后，我查看了我的代码的详细信息，发现我只能添加直到第 11 层的层。

test_model = tf.keras.Sequential()

for layer in BaseModel.layers[:11]:
    #Not work if I set BaseModel.layers[:12]
    test_model.add(layer)

使用 model.summary()，在池化层之后似乎缺少维度信息。 以下是 BaseModel.summary() 和 test_model.summary() 的输出：

基础模型

测试模型

但是，我找不到解决方案。

Answer 1

各位，

我为我的任务想出了一个替代解决方案。 我从源代码修改了模型的输入和 output 层。 然后从源model设置权重。

下面是解决代码：

'Load Pre-Trained Model to Get Weight'

BaseModel =  keras.models.load_model('model.hdf5')
input_w = BaseModel.layers[1].get_weights()[0]
input_w_1_lead = input_w[:,1,:].reshape(input_w.shape[0], 1, input_w.shape[2])
BaseModel.summary()

'Build the Fine-Tuned Model'

model = get_model(1)
model.layers[1].set_weights([input_w_1_lead])

'Load Weight from Source Model'
for i in range(2, len(BaseModel.layers) -1):
    model.layers[i].set_weights(BaseModel.layers[i].get_weights())

'Check the Weight is Equal to Source Code'
for i in range(2, len(BaseModel.layers) -1):
    if np.allclose(
            BaseModel.layers[i].get_weights(),
            model.layers[i].get_weights()) is False:
        print('this way is no correct')

哒哒。 它工作正常，控制台中没有打印任何内容。