上限 tensorflow 批量大小基于 GPU memory
[英]Cap tensorflow batch size based on GPU memory
问题描述
我正在切换到在 GPU 上进行训练，发现使用任意且不是很大的批量训练会崩溃。 在 UNET 中使用 256x256 RGB 图像时，一批 32 会导致 memory 崩溃，而 16 则成功。 消耗的 memory 数量令人惊讶，因为我从未在 16 GB RAM 系统上遇到内存不足的情况。 tensorflow 是否可以免费使用 SWAP？
如何查看 GPU 上可用的总 memory 数量？ 网上很多指南只看memory使用的。
如何估计 memory 的需求？ 图像大小（像素通道dtype）* 批次 + 参数大小 * 浮点数？
非常感谢，博格丹
0 个解决方案
为什么增加keras中的批处理大小时，使用的GPU内存量不会增加？
[英]Why amount of used GPU memory doesn't increase when increasing batch size in keras?
Keras 似乎忽略了我的 batch_size 并尝试将所有数据都放入 GPU memory
[英]Keras seem to ignore my batch_size and tries to fit all data in GPU memory
Pytorch CUDA out of memory 在降低批量大小和清除 Z0AA0BE2A866411D9FF3D61980E291Z 缓存后仍然存在
[英]Pytorch CUDA out of memory persists after lowering batch size and clearing gpu cache
声明:本站的技术帖子网页，遵循CC BY-SA 4.0协议，如果您需要转载，请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.
相关问题
张量流模型评估基于批量大小
Tensorflow GPU memory分配
基于Tensorflow GPU的安装
在Tensorflow中配置GPU内存使用情况
张量流使用所有GPU内存
张量流中的动态批量大小
为什么增加keras中的批处理大小时，使用的GPU内存量不会增加？
Keras 似乎忽略了我的 batch_size 并尝试将所有数据都放入 GPU memory
Pytorch CUDA out of memory 在降低批量大小和清除 Z0AA0BE2A866411D9FF3D61980E291Z 缓存后仍然存在
TensorFlow：如何记录 GPU 内存 (VRAM) 利用率？
相关标签