簡體   English   中英

執行Hive查詢時分配了多少Mapper和Reducers

[英]How many Mappers and Reducers are allotted when a Hive Query is executed

執行Hive查詢時,執行了多少個映射器/減速器,或者執行Hive查詢時,如何識別man mappers和reducer將如何執行?

Mapper數量取決於jobclient計算的輸入拆分數。

而hive查詢就像是一系列Map減少作業。 如果您編寫一個簡單的查詢,例如select Count(*) from Employee只會執行一個Map reduce程序。 如果給出包含大量聚合和連接等的復雜查詢,將執行Map Reduce程序系列,該程序使用較早的MR相位輸出作為下一個MR階段的輸入,最終結果將被轉儲到HDFS中。

可以由Hive Shell中的開發人員將mapred.reduce.tasks = x設置為reducers數量

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM