如何在分配的dask中管理单个worker上的GPU资源？

Question

我有一个关于dask分布的问题。

假设我想运行一组任务，每个任务运行在不同数量的GPU上，例如，一个任务在2个GPU上运行（类型A），而其他几个任务在1个GPU上运行（类型B）。 我的理解是可以使用“resources”属性设置多个worker。 例如，我可能总共有3个GPU，并设置一个具有资源变量“gpus = 2”的工作者和另一个具有“gpus = 1”的工作者。 很明显，这里的“gpus”是一个抽象术语（见这里 ）。

但是，这意味着在类型A的任务在具有2个GPU的worker上运行之后，该worker只会同时执行一个B类任务，从而不利用与该worker相关联的其他可用GPU。 它是否正确？

理想情况下，我想定义一个单个worker，其中GPU的总数（此处为：3）在执行作业时会更新（类似于ncores）。 因此，工作者应该能够并行运行类型A的单个任务和类型B的一个任务，然后并行运行三个类型为B的任务。 这可能吗？

干杯

Answer 1

是的，你可以说工人有三个GPU。 Worker将跟踪当前正在运行的任务的资源，并确保它不会运行总资源需求超过工作人员资源的任务。