使用Python子进程运行SLURM脚本以将多个长作业提交到队列中，并在继续python脚本之前等待作业完成

Question

这种情况的基本原理是，我正在使用Python的subprocess进程模块运行SLURM脚本，该脚本将许多作业提交到我使用的某些HPC资源上的队列中。 我希望Python脚本等待所有提交的作业完成。 我尝试这样做：

proc = subprocess.Popen(['sbatch slurm.sh'],shell=True)
proc.wait()

但是，它仅等待作业提交，而不等待所有作业完成。 有人对如何进行这项工作有任何建议吗？

注意：我曾经有一个想法可能是让子进程以某种方式与SLURM脚本生成的.out文件进行通信（并等待它完成编辑工作？），但是我不确定这将如何工作。

感谢您的任何想法！

Answer 1

使用python库与Slurm交互，例如

• gc3pie
• JOBLIB

并且您将能够以非常简单的方式来管理slurm作业。

Answer 2

我最近研究了slurm，并使用sbatch的-W或--wait参数使sbatch命令首先完成其执行，然后执行python代码。 像这样的sbatch -W slurm.sh