繁体   English   中英

在reduce阶段工作时如何开始map阶段

[英]How to start the map phase while the reduce phase is working

我有这种情况。 JobA和JobB。 在仍然有效的情况下,是否有机会使用JobA reduce阶段提供的数据来启动JobB映射阶段?

谢谢!

我唯一想到的就是拥有一个线程(从驱动程序类开始),该线程可以永久检查JobA的输出目录。 创建并完全编写了一部分特定的r-xxxx文件后,您可以启动JobB,并输入该特定部分r-xxxx的文件。

我现在可以确定的唯一问题是与检查part-r-xxxx文件是否已完全写入有关的问题。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM