Spark Local与Cluster

Question

什么是Spark集群等效于独立的local [N]。 我的意思是，我们设置为local的参数的值为N，在集群模式下哪个参数接受它？

Answer 1

在local[N] N是节点在任何时间点可以使用的最大内核数。

在集群模式下，您可以设置--executor-cores N 这意味着每个执行者在一个执行者中最多可以同时运行N任务。

Answer 2

在集群模式下，一个执行程序将在一个工作程序节点上运行，这意味着一个执行程序将占用该工作程序节点上的所有内核。 这可能会导致资源利用不足。 请记住， 驱动程序也将占用一个工作节点。