Elasticsearch增加堆大小

Question

我們在Amazons ECS上的docker容器內運行Elasticsearch。 我們注意到堆隨着時間的推移略有增加。 我們第一次注意到它是當它籌集到70％以上並開始丟棄請求時（indices.breaker.total.limit）。

事實是，我從未見過減少的堆，感到可疑！

到目前為止，我們已經增加了實例大小，現在運行具有30G內存的實例。 堆設置為內存的一半左右，ES_HEAP_SIZE = 14g（Xmx = Xms = 14g）。

其他有類似經驗的人嗎？ 這是Elasticsearch中的錯誤嗎？ 還是只有錯誤配置？

Elasticsearch版本：1.5.1

> curl localhost:9200/_cat/fielddata?v

id                     host         ip         node            total position deal_status heading.sortorder org_relationlastmodified deal_value deal_probability 1_ZipCodeVisit_0   tag employer_tag 1_CityVisit_0 dateofregistration temperature uniqueId _type quick_ratio org_relation employer_relationlastmodified turnover turnover_per_employee deal_source employer_relation deal_statusdate 1_custom_1466 average_salary_per_employee deal_orderdate 0_NumberOfEmployeesRange_20 1_LegalForm_0 1_custom_1816 0_WorksiteType_100 0_LineOfBusiness_2 equity_ratio profitmargin 0_LineOfBusiness_1 0_CountyVisit_40 0_NumberOfEmployeesRange_22 0_MunicipalityVisit_61 0_LegalForm_110 dividends 1_custom_1744 0_MunicipalityVisit_60 responsiblecoworker result_before_tax
XMTlkdnsToKvMHqgApMBAg 5dc819096905 172.17.0.2 Hitman        729.8mb    8.1mb       1.1mb           261.5mb                    1.7mb    305.3kb          849.1kb           20.9mb 6.4mb        1.3mb        19.3mb             12.3mb          0b  283.7mb 9.6mb       5.1mb      810.5kb                       632.2kb   11.6mb                 4.1mb     150.8kb           566.4kb         568.6kb        34.1kb                       4.2mb        973.5kb                       5.7mb         4.6mb        37.4kb              4.9mb              8.1mb        4.7mb        4.2mb              9.2mb            3.3mb                       4.2mb                802.9kb           3.9mb     4.3mb        37.7kb                  7.5mb               2.4mb               5mb
dHAoWkHMQKSnwAB0KrJRJw 8ffc068518f9 172.17.0.2 Moira Brandon 718.9mb    8.2mb       1.1mb           261.5mb                    1.3mb      124kb          793.3kb           19.6mb 6.4mb          1mb        19.1mb             10.2mb          0b  283.8mb 9.6mb       5.2mb      714.7kb                       791.3kb    8.8mb                 3.4mb          0b           422.6kb          83.9kb        16.8kb                       4.6mb        989.4kb                       5.6mb         4.5mb            0b              5.2mb              7.9mb        4.1mb        4.3mb                9mb            3.2mb                       4.3mb                     0b           3.8mb     4.3mb            0b                  7.1mb               2.5mb             4.4mb

[更新2016-10-24]我們已經更新到版本2.4.0，但是我們仍然遇到相同的問題。 如果我強制使用GC，則堆釋放量約為4％，與新實例的釋放量相同。

對於具有73％堆的實例的示例，jvm mem顯示舊的大約10G，不確定那是否正常

jvm mem heap percent 73%
"young":    "used_in_bytes" : 199026920
"survivor": "used_in_bytes" : 2422528
"old":      "used_in_bytes" : 10754631392

是什么觸發了GC？ 我們應該讓堆增加到70％以上嗎？

Answer 1

這可能與這種-的預2.X版本，影響主要Kibana已知的行為，但我想也elasticsearch。

看到這個github問題： https : //github.com/elastic/kibana/issues/5170

在您的情況下可能是相同的，基本上可以歸結為以下節點問題： https : //github.com/nodejs/node/issues/2683

ES中的配置也可能不理想。 在elasticsearch配置中尋找這個通常的可疑對象：

bootstrap.mlockall: true

您有很多分片/副本嗎？ 您也使用Kibana嗎？