繁体   English   中英

有人让 Tensorflow 分布式培训笔记本工作吗?

Does anyone get the Tensorflow distributed training notebook to work?

提示:本站收集StackOverFlow近2千万问答,支持中英文搜索,鼠标放在语句上弹窗显示对应的参考中文或英文, 本站还提供   中文繁体   英文版本   中英对照 版本,有任何建议请联系yoyou2525@163.com。

当我运行这个从 Tensorflows 文档站点链接的笔记本时,

https://colab.research.google.com/github/tensorflow/docs/blob/r2.0rc/site/en/tutorials/distribute/training_loops.ipynb#scrollTo=7x7s5iYAYSGD

我收到以下错误:

模块“tensorflow._api.v1.nn”没有属性“compute_average_loss”

如果有人可以让它工作,你在 Google Colab 中使用什么设置? Python 3/2、GPU、Tensorflow版本等

谢谢

1 个回复

github代码是从今年5月开始的:

https://github.com/tensorflow/docs/commits/r2.0rc/site/en/tutorials/distribute/training_loops.ipynb

当 colab 加载 tf 1.14 时:

from __future__ import absolute_import, division, print_function, unicode_literals

# Import TensorFlow
import tensorflow as tf

# Helper libraries
import numpy as np
import os

print(tf.__version__)

1.14.0

所以你最好的选择是使用 tf 2.0 运行程序。

希望能帮助到你:)

1 分布式Tensorflow训练

我是 Tensorflow 的新手,并尝试根据文档使用 ParameterStrategy 实现分布式 Tensorflow。 到目前为止,我有下面的代码 在此示例中,我尝试将文档示例从二进制分类转换为分类分类。 但我收到以下错误。 ValueError:密集层的输入0与层不兼容::预期的min_ ...

2 异步培训如何在分布式Tensorflow中工作?

我读过Distributed Tensorflow Doc ,它提到在异步训练中, 图的每个副本都有一个独立的训练循环,无需协调即可执行。 据我所知,如果我们将参数服务器与数据并行架构结合使用,则意味着每个工作人员都会计算渐变并更新自己的权重,而无需关心分布式训练神经网络的其他 ...

5 使用Cloud ML的分布式TensorFlow-培训

我正在尝试使用Cloud ML运行分布式TF作业。 我在本地测试了代码(使用gcloud ml local命令)。 以下是一些规格: 使用以下规范,训练步骤= n_epochs * num_batches = 11000,这是正确的。 但是,如果我使用2个工作程序节点和1个 ...

6 使用Keras在Tensorflow上进行分布式培训

有人可以帮我找到在Tensorflow / Keras下运行的分布式培训脚本的简单但完整的示例吗? 我需要脚本包含一个简单的Keras模型,该模型可从数据集中读取输入数据。 实现策略是数据并行化,即多个并行工作人员读取不同批次的数据并共享存储在参数服务器上的一组公共模型参数。 我在互联网上 ...

7 我应该如何准确地使用Tensorflow进行分布式培训?

我有两台电脑。 如何对他们进行分布式培训,并使其收敛速度快2倍? 我得到了“分布式示例” ,但是此“示例”不包含有关计算机设置的信息。 我对设置TF_CONFIG有一些了解,但是仍然很不清楚两台计算机应该做什么。 我不能在两台计算机上运行相同的脚本。 我希望一台计算机应该等待另一台计算机向其发送批处 ...

8 TensorFlow的钩子和分布式培训

我有一个带有钩子的培训工作,可以在培训期间设置变量: 训练按通常的估计方法进行: 现在,我试图了解如果我转移到分布式培训时会发生什么。 挂钩可以在所有机器上运行吗? 如果当前我使用session.graph.get_tensor_by_name()在钩子中找到要分配给我的张量 ...

9 通过jupyter笔记本使用dask分布式计算

当我从jupyter笔记本中使用它时,我看到了来自dask的奇怪行为。 所以我发起了一个本地客户端并给它一份工作列表。 我的真实代码有点复杂,所以我在这里给你一个简单的例子: 问题在于,我意识到:1。Dask为此示例启动了9个以上的进程。 2.代码运行完成后(笔记本中没有任何内容正 ...

10 分布式Tensorflow使用keras可以工作吗?

我是tensorflow的新手。 请为我提供以下详细信息 我曾致力于实现分布式张量流。 我发现此代码对于使用keras的分布式tensorflow有用,这是链接-> 实现 。 我有4台服务器(1个主服务器和3个从服务器)来分配培训。 我想知道我是否以正确的方式执行了流程? ...

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2022 STACKOOM.COM