计算张量流中定制优化器所需的损失函数的双导数

Question

我正在尝试为我的模型（确实是一个浅表的模型）编写一个自定义优化器，该优化器需要针对预测和实际结果计算损失函数（二进制交叉熵损失）的双导数。 张量流的默认实现是针对可学习参数计算grad（一阶导数），但是没有用于高阶导数的方法。 因此，我开始尝试使用自定义优化器，该自定义优化器继承了优化器的父类。 现在可以使用Gradient Tape（）计算高阶导数，但是问题在于如何传递预测值和实际值。 第二个问题是计算模型中所有其他函数的一阶（因为没有必要为所有函数存在二阶导数）

任何人都可以提出解决方案或替代解决方案。

另外，如果有一种方法仅合并tfp.optimizer.bfgs以更新权重，请提出建议。

此处附有模型代码：

`

model = Sequential()

model.add(Conv2D(16, (3,3), input_shape=X.shape[1:]))
model.add(Activation("relu"))
model.add(MaxPooling2D(pool_size=(2,2)))

model.add(Flatten())
model.add(Dense(8))

model.add(Dense(1))
model.add(Activation("sigmoid"))

model.compile(loss="binary_crossentropy", optimizer=sgd_opt.SGD(), metrics=["accuracy"])

model.fit(x,y,epochs=10)

`