Colab+Keras+TensorBoard FailedPreconditionError

Question

我正在尝试运行一个简单的 Keras 脚本并将 Google Colab 与 TensorBoard 结合使用。 这是我的代码：

import tensorflow as tf
import tensorflow.keras as keras
from tensorflow.keras.datasets import cifar10
from tensorflow.keras.applications.mobilenet import MobileNet
from tensorboardcolab import TensorBoardColab, TensorBoardColabCallback

# Settings
num_classes = 10
batch_size = 16
epochs = 1

# Data setup
(x_train, y_train), (x_test, y_test) = cifar10.load_data()
x_train = x_train.astype('float32') / 255
x_test = x_test.astype('float32') / 255
y_train = keras.utils.to_categorical(y_train, num_classes)
y_test = keras.utils.to_categorical(y_test, num_classes)

# Select model
model = MobileNet(weights=None, input_shape=x_train.shape[1:], classes=num_classes)

# Select loss, optimizer, metric
model.compile(loss='categorical_crossentropy',
                            optimizer=tf.train.AdamOptimizer(0.001),
                            metrics=['accuracy'])    
# Train
tbc=TensorBoardColab()
model.fit(x_train, y_train,
                    batch_size=batch_size,
                    epochs=epochs,
                    verbose=1,
                    validation_data=(x_test, y_test), 
                    callbacks=[TensorBoardColabCallback(tbc)])

这是我看到的将 TensorBoard 与 Colab 结合使用的建议，如下所述： Can I use Tensorboard with Google Colab?

但是，在添加回调时出现错误：

FailedPreconditionError：从容器读取资源变量 conv_dw_8_2/depthwise_kernel 时出错：localhost。 这可能意味着该变量未初始化。 未找到：资源 localhost/conv_dw_8_2/depthwise_kernel/N10tensorflow3VarE 不存在。 [[节点：conv_dw_8_2/depthwise/ReadVariableOp = ReadVariableOpdtype=DT_FLOAT, _device="/job:localhost/replica:0/task:0/device:GPU:0"]] [[节点: loss_2/mul/_147 = _Recvclient_terminated= false, recv_device="/job:localhost/replica:0/task:0/device:CPU:0", send_device="/job:localhost/replica:0/task:0/device:GPU:0", send_device_incarnation= 1、tensor_name="edge_6752_loss_2/mul", tensor_type=DT_FLOAT, _device="/job:localhost/replica:0/task:0/device:CPU:0"]]

有谁知道我做错了什么？ 如果可以的话，这似乎是在 Colab 上运行 TensorBoard 的一种非常有用的方法。

Answer 1

这是由 Keras 版本冲突引起的。 在您导入Keras API 的tf.keras实现时， Tensorboardcolab使用完整的keras 库。 因此，当您拟合模型时，您最终会使用两个不同版本的 keras。

您有几个选择：

使用 Keras 库并更改您的导入

import tensorflow as tf
import keras
from keras.datasets import cifar10
from keras.applications.mobilenet import MobileNet
from tensorboardcolab import TensorBoardColab, TensorBoardColabCallback

尽管代码在这些更改后运行良好，但您可以考虑使用Keras 版本的 Adam 优化器，因此您不再需要显式导入 tensorflow。

model.compile(loss='categorical_crossentropy', 
                    optimizer=keras.optimizers.Adam(lr=0.001), 
                    metrics=['accuracy'])`

使用 tf.keras 并修补 TensorBoardColab

如果您修补callbacks.py和core.py并修复那里的导入，您的代码运行良好：

from keras.callbacks import TensorBoard from tensorflow.keras.callbacks import TensorBoard

您也可以在我进行这些更改的地方使用这个 fork 。