繁体   English   中英

Apache Hive与法线贴图减少

[英]Apache Hive Vs Normal Map Reduce

我在正常配置表减少(字数统计程序)旁边运行配置单元查询(外部表中条目的简单计数)时遇到了奇怪的经历。 我的wordcount map reduce首先启动,然后是蜂巢查询。 蜂巢查询是多少速度和我的第一张地图减少卡住了。 在任何情况下,Hive贴图减少块和所有其他贴图减少沿边行驶?

我要求您增加对这个问题的看法。

我假设情况并非始终如此。 Hive不会阻止群集上的任何其他作业。 群集负载和网络延迟可能会影响首先完成的作业。 如果要比较两个作业以查看哪个更快,请同时提交它们,并运行测试至少5-10次,并考虑平均时间。

作业完成的顺序取决于作业请求的映射和归约任务的数量,以及群集的调度程序配置。

如果作业请求的还原任务数量大于集群可用的还原任务数量,则其他作业将被迫等待,直到还原任务完成。 然后,调度程序可以将空闲的减少时隙分配给等待的作业(同样,取决于调度程序配置)。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM