如何在YARN中增加nodemanager中的容器數量

Question

我的YARN群集中的節點具有64GB內存和24個內核。 我在yarn-site.xml中設置了以下屬性：

<property>
  <name>yarn.nodemanager.resource.memory-mb</name>
  <value>32768</value>
</property>
<property>
  <name>yarn.nodemanager.resource.cpu-vcores</name>
  <value>16</value>
</property>

但我發現節點中的nodemanager仍然只有7個容器。 我需要設置的其他屬性是什么？

Answer 1

您需要告訴YARN如何將內存分解為容器，例如，如果您將每個容器的內存設置為2GB將為您提供16個容器

<name>yarn.scheduler.minimum-allocation-mb</name>
<value>2048</value>

Answer 2

嘗試類似的東西：

  <property>
    <name>mapreduce.map.memory.mb</name>
    <value>1024</value>      
  </property>

  <property>
    <name>mapreduce.reduce.memory.mb</name>
    <value>2048</value>      
  </property>