OpenMPI节点和网络拓扑

Question

我目前正在建立一个小型公用事业图书馆，作为大型项目的一部分。 OpenMPI有一个文档齐全的API库，但是当涉及节点之间的较低级别的通信时，我有些困惑。 我知道在编写算法时，您会将其分布在所有希望进行计算的所有节点上，每个节点与其余节点进行通信，并根据它们的“全局” MPI等级（在算法中定义）执行算法的一部分，以及所有节点来回同步。 但是，我在全局引号中放置的原因是，openMPI是否在ip级别进行通信，因此说我已经有一个执行时间很长的算法，但是如果我执行我的MPI，则有一个节点处于空闲状态，不运行任何MPI进程它的算法，它将加入MPI_COMM_WORLD并成为整个网络拓扑的一部分，还是我需要做一些“巫毒”使该节点成为MPI_COMM_WORLD的一部分。 另外，如果节点可以成为该特定算法的MPI_COMM_WORLD的一部分，我如何注册/标识这个新节点？

任何阅读参考资料也有帮助。

非常感谢！

tl; dr是否可以从MPI_COMM_WORLD热交换MPI节点？

Answer 1

一旦创建了通信器，就无法将节点加入通信器。 MPI_COMM_WORLD只是一个预先创建的通信MPI_COMM_WORLD ，也是如此。 只有作为初始SPMD启动的一部分启动的进程才成为MPI_COMM_WORLD一部分。 但是您可以使用MPI-2流程管理工具生成其他流程，如当前MPI Standard版本2.2的第10章中所述。

新产生的进程都有自己的MPI_COMM_WORLD和初始组可以与他们经过特殊intercommunicator只是沟通的过程（ MPI_COMM_WORLD是intracommunicator）由产卵操作返回。 由于进程生成是一个集体操作，因此MPI_COMM_WORLD所有进程MPI_COMM_WORLD将获得该MPI_COMM_WORLD的句柄。

MPI 3.0（迟早推出）将带来故障容错能力，从而可以从MPI_COMM_WORLD （或任何其他通信器）中排除/删除故障进程，而MPI 3.1最终将带来一些可以替换故障进程的东西。