张量流会话是否与我的其余代码并行运行？

Question

我在GPU上运行会话，并且想知道'session.run（）'代码是否与脚本中的其他代码并行运行。 我先在CPU上使用批处理，然后再在循环中运行“ session.run（）”，并希望将此处理与GPU上的执行流水线化。 此设置是否已满足要求，还是我需要手动启动线程？

Answer 1

这完全取决于您如何编写代码。 通过同时检查您的CPU和GPU利用率，这很容易检查

我通常使用tf.data.Dataset API。 我使用迭代器的get_next()方法将数据馈送到网络。 在这种情况下，CPU和GPU可以并行工作。

Answer 2

经过一番研究，我发现'session.run'与其他代码没有同时运行。 确实，正如Ujjwal所建议的那样，“ tf.data.Dataset” API是流水线批处理和GPU执行的最佳选择。