如何在Oozie工作流程中传递Hive设置参数

Question

无论如何要传递Hive参数，例如

设置hive.exec.parallel = true; SET hive.vectorized.execution.enabled = true;

使用参数文件使用oozie工作流程

Answer 1

这取决于您调用配置单元查询（hql）文件的方式。

如果在工作流中使用配置单元操作，则可以在配置部分的属性标签内或hql文件myscript.q内指定配置单元配置参数。

<workflow-app name="sample-wf" xmlns="uri:oozie:workflow:0.1">
    ...
    <action name="myfirsthivejob">
        <hive xmlns="uri:oozie:hive-action:0.2">
            <job-traker>foo:9001</job-tracker>
            <name-node>bar:9000</name-node>
            <prepare>
                <delete path="${jobOutput}"/>
            </prepare>

            <configuration>
                <property>
                    <name>hive.exec.parallel</name>
                    <value>true</value>
                </property>
            </configuration>

            <script>myscript.q</script>
            <param>InputDir=/home/tucu/input-data</param>
            <param>OutputDir=${jobOutput}</param>
        </hive>
        <ok to="myotherjob"/>
        <error to="errorcleanup"/>
    </action>
    ...
</workflow-app>

如果使用oozie shell操作，则可以在shell脚本中按以下方式指定配置单元参数。

hive --hiveconf "<hive queries>"

要么

hive --hiveconf -f "hivequeries.hql"