Tensorflow数据集性能？

[英]Tensorflow Dataset performances?

我正在实施受NMT模型启发的模型。 我正在使用存储为TFRecords文件的训练集，并使用TFRecordDataset来获取它并提供模型。 遵循Google关于改善输入管道性能的建议 ，我有： 尽可能在CPU上预先进行预处理 堆叠了几个培训示例，最大约100 MB的TFr ...

如何使用tf.contrib.learn.Experiment中的train_and_evaluate函数正确应用辍学

[英]How to properly apply dropout with train_and_evaluate function in tf.contrib.learn.Experiment

我正在使用tensorflow高级api tf.contrib.learn.Experiment运行我的模型。 我在模型代码中应用了tf.nn.dropout ，并使用train_and_evaluate函数来训练模型。 但是，我不知道如何仅在train_and_evaluate过程中的tf ...

分布式Tensorflow：aw / ps上的ps / worker主机？

[英]Distributed Tensorflow: ps/workers hosts on aws ?

我在使用gpus的aws上使用分布式Tensorflow。 当我在本地机器上训练模型时，我将ps_host / workers_host指示为'localhost：2225'。 在aws的情况下我需要使用什么ps / worker主机？ ...

Tensorflow Java多GPU推理

[英]Tensorflow Java Multi-GPU inference

我有一个具有多个GPU的服务器，并希望在Java应用程序内的模型推理期间充分利用它们。 默认情况下，tensorflow会占用所有可用的GPU，但仅使用第一个GPU。 我可以想出三个选项来克服这个问题： 在进程级别限制设备可见性，即使用CUDA_VISIBLE_DEVICES环 ...

Tensorflow-GPU仍在CPU上处理

[英]Tensorflow-GPU still processing on CPU

Tensorflow-gpu版本 - 1.4.0 CUDA版本 - 8.0 cuDNN - v6.0 来自nvidia-smi的输出： 我得到的错误是： 从代码： 我已经卸载了tensorflow以及tensorflow-gpu，然后只通过pip重新安装 ...

尝试为Tensorflow编译XLA AOT时出现链接错误

[英]Link error trying to compile XLA AOT for Tensorflow

我试图按照本教程建立一个XLA AOT例子（从拍摄的东西这个 ）。 我已经能够从源代码构建Tensorflow并使XLA JIT在小型mnist_softmax_xla.py上工作 。 到目前为止，我已经完成了以下步骤： 1） 2）我还必须将/home/m2angus/te ...

分配需要两个张量的形状匹配。 lhs shape = [1024] rhs shape = [1200]

[英]Assign requires shapes of both tensors to match. lhs shape= [1024] rhs shape= [1200]

我是TensorFlow的新手，并尝试根据来自https://github.com/tensorflow/nmt/的教程创建自己的NMT。 恢复训练后的模型进行推断时，我遇到错误： 分配需要两个张量的形状匹配。 lhs shape = [1024] rhs shape = [12 ...

在多个GPU上运行Tensorflow

[英]Running Tensorflow on multiple gpu's

我已经检查了该网站，但与往常一样，对我来说仍然不清楚。 谁能描述从GPU上运行任何tensorflow程序的所有步骤（从一开始）？ ...

Amazon EC2 Tensorflow GPU支持

[英]Amazon EC2 Tensorflow GPU support

我试图四处张望，却找不到解决方法。 我尝试过的事情包括检查所有路径和环境变量。 当我尝试在深度学习AMI（m4.xlarge）上使用Python 3.6将TensorFlow后端与Keras一起运行时 一旦导入Tensorflow，这就是输出： /home/ubunt ...

tensorflow内部错误，无法创建会话

[英]tensorflow internal error that fails to create session

我正在尝试在Jupyter Notebook上使用带有gpu的tensorflow来实现一个简单的神经网络，但是每次创建会话都会失败，我已经跟踪了很多次代码并将迭代次数减少到10次，还减少了迭代次数输入污点和测试数据，仅用于测试是否存在计算能力问题。 我的网络有2个隐藏层； 第一个包含3个神 ...

Dataset API中的多线程

[英]Multi threading in Dataset api

TL; DR：在Tensorflow 0.1.4中使用Dataset API时，如何确保以多线程方式加载数据？ 以前，我对磁盘中的图像执行了以下操作： 这样可以确保有20个线程为下一次学习迭代准备数据。 现在，使用Dataset API，我可以执行以下操作： 之后，我 ...

具有不同批次大小的Tensorflow评估网络

[英]Tensorflow evaluate network with different batch size

我有一个训练有素的网络，输入内容： 在实践中，我希望能够使用batch_size变量（最大批次大小batch_max为 100）进行预测，即 现在，我观察到以下行为： 否则，更改批次大小会减慢评估速度。 批量大小的首次评估明显慢于相同批量大小的直接评估。 听起来很 ...

尽管数据集上存在多线程设置，TF时间轴仍显示串行执行

[英]TF Timeline shows serial execution despite multithreading settings on Dataset

我对Tensorflow相对较新，仍在努力了解如何提高性能。 我使用TF时间轴工具来检查我的代码的执行情况，我很惊讶地看到执行看起来像是串行的，如下图所示： 下面的代码是我用来设置数据输入的代码： 特别是，鉴于我已将map上的工作线程数设置为13（与我的硬件一致）并且还设置 ...

Google Cloud ML：使用Nightly TF导入错误没有模块张量流

[英]Google Cloud ML: Use Nightly TF Import Error No Module tensorflow

我想在Google Cloud ML上训练Google的NMT模型。 NMT模型 现在，我将所有输入数据放入存储桶中，并下载了git存储库。 该模型需要每晚版本的tensorflow，因此我在setup.py中定义了它，当我使用cpu版本tf-nightly == 1.5.0-dev2 ...

Tensorflow服务：为每个模型使用一小部分GPU内存

[英]Tensorflow serving : Using a fraction of GPU memory for each model

我可以使用一个GPU进行部署，但需要部署多个模型。 我不想将完整的GPU内存分配给第一个部署的模型，因为那时我无法部署我的后续模型。 在训练时，可以使用gpu_memory_fraction参数控制。 我使用以下命令来部署我的模型 - tensorflow_model_server ...

tensorflow GPU崩溃为0批量大小CUDNN_STATUS_BAD_PARAM

[英]tensorflow GPU crashes for 0 batch size CUDNN_STATUS_BAD_PARAM

这个问题似乎存在了很长时间，很多用户都面临着这个问题。 stream_executor / cuda / cuda_dnn.cc：444]无法将BatchDescriptor {count：0 feature_map_count：64 spatial：7 264 value_min：0.0 ...

如何在工人而不是主人上进行分布式tensorflow实验运行评估？

[英]How to have distributed tensorflow experiment run evaluation on worker instead of master?

我正在使用Google Cloud ML Engine通过tensorflow.contrib.learn.Experiment训练模型。 默认情况下，tensorflow似乎由主服务器运行评估。 我只在培训完成后才运行评估（min_eval_frequency = 0），我的主系统拥有大量 ...

在分布式培训中，SessionRunHook是否仅在主服务器中发生？

[英]In distributed training, is SessionRunHook only happening in master？

使用tf_learn.Experiment（...）接口时，我们可以传入train_monitors和eval_hooks，这些钩子仅在master中发生吗？ 我试图阅读源代码，它表明它应该在每个session.run（..）上运行该钩子。 我相信不仅master工人也将运行sessio ...

Expected_shape变量在tensorflow中没有任何影响

[英]expected_shape variable does not have any effect in tensorflow

在下面的代码段中，即使初始值和expected_shape不匹配，代码也会运行并以1.0给出输出。 这是代码。 它不是应该引发错误吗？ ...

Tensorflow#object_detection/train.py 上的 CUDA_ERROR_OUT_OF_MEMORY

[英]CUDA_ERROR_OUT_OF_MEMORY on Tensorflow#object_detection/train.py

我正在运行 Tensorflow 对象检测 API 以使用object_detection/train.py脚本训练我自己的检测器，在此处找到。 问题是我不断收到CUDA_ERROR_OUT_OF_MEMORY 。 我找到了一些减少批量大小的建议，以便训练器消耗更少的内存，但我从 16 减少到 4 ...