如何在 Colab 上使用 TPU 迁移学习

Question

我正在尝试在 Colab 上使用 Tensorflow 2 自学迁移学习技术。

使用 GPU 工作正常，但众所周知，谷歌有它的 TPU，它们比 GPU 更快。

在 Colab 中，当我将“类型”从 GPU 切换到“TPU”时，我将 --use_tpu=true 添加到下面的命令中

python /content/models/research/object_detection/model_main_tf2.py \
--pipeline_config_path={pipeline_fname} \
--model_dir={model_dir} \
--checkpoint_dir={model_dir} \
--eval_timeout=60 \
--use_tpu=true

此脚本可在模型存储库中找到。

git clone --quiet https://github.com/tensorflow/models.git

但是，它不起作用，几分钟后，我收到以下错误消息：

tensorflow.python.framework.errors_impl.UnimplementedError：文件系统方案'[local]'未实现（文件：'/content/driving-object-detection/training/train'）使用EagerExecutor执行操作时遇到。 这个错误会取消所有未来的操作并毒害它们的输出张量。 atexit._run_exitfuncs 中的错误：回溯（最近一次调用）：文件“/usr/local/lib/python3.6/dist-packages/tensorflow/python/distribute/tpu_strategy.py”，第 540 行，在 async_wait context.async_wait () 文件“/usr/local/lib/python3.6/dist-packages/tensorflow/python/eager/context.py”，第 2319 行，在 async_wait context().sync_executors() 文件“/usr/local/lib /python3.6/dist-packages/tensorflow/python/eager/context.py", line 658, in sync_executors pywrap_tfe.TFE_ContextSyncExecutors(self._context_handle) tensorflow.python.framework.errors_impl.UnimplementedError: File system scheme '[local] ' 未实现（文件：'/content/driving-object-detection/training/train'）在使用 EagerExecutor 执行操作时遇到。 这个错误会取消所有未来的操作并毒害它们的输出张量。 2020-10-23 15:53:03.698253: W ./tensorflow/core/distributed_runtime/eager/destroy_tensor_handle_node.h:57] 忽略删除远程张量句柄时遇到的错误：无效参数：无法找到相关的：Optensor remote_handle ID：16039，输出数量：1 来自远程目标 /job:worker/replica:0/task:0 的附加 GRPC 错误信息：：{"created":"@1603468383.693602692","description":"从对等 ipv4 收到的错误： 10.72.50.114:8470","file":"external/com_github_grpc_grpc/src/core/lib/surface/call.cc","file_line":1056,"grpc_message":"无法找到相关张量 remote_handle: Op ID ：16039，输出数量：1","grpc_status":3}

我应该采取哪些额外步骤来为 TPU 准备文件？ 正如我在数据集、文件夹结构之前提到的，我遵循了 tensorflow.org 并与 GPU 配合良好。

它不仅仅是添加“--use_tpu=true”那么简单。 是否有分步指南或任何人都可以阐明？

谢谢，

Answer 1

这是一个指南： https : //www.tensorflow.org/guide/tpu 。

TPU 只能访问来自 GCS 存储桶的数据集。

或者，您可以自己管理文件：加载本地文件，然后使用tf.data.Dataset.from_tensor_slices方法创建数据集。

Answer 2

好的，我了解到所有输入文件都必须在 Google Storage 存储桶中。 如果您的路径不是以 gs:// 开头，则 TPU 将无法工作。