cost 295 ms
我如何使用 tez 执行引擎在配置单元上并行运行多个查询? - How can i run multiple queries in parallel on hive with tez execution engine?

我们想用 tez 运行 hive 来查询 hdfs 中的数据,因为多个用户将查询 hive,所以我们需要以这种方式配置 hive,以便并行执行查询由于 tez 使用 yarn 将资源分配给多个节点,我们试图限制在 yarn 中每次查询 hive 分配的容器,但无法找到合适的配置 ...

hive tez mapr 分布查询与 tez 引擎有问题 - hive tez mapr distribution query have issues with tez engine

在 tez 上查询失败,但在 MR 上查询正常。 我们已经尝试了许多不同的排列和组合 set... 参数但无法在 tez 中成功运行此查询。 MR 中的查询运行大约 20 分钟,但 tez 引擎,我们看到查询在集群中消耗了巨大的 memory,当这个查询运行时,我看到集群上的 memory 使用率 ...

Hive 查询需要很长时间 - Hive queries taking so long

我有一个运行 Hive 的 CDP 环境,由于某种原因,一些查询运行得非常快,而另一些则需要 5 分钟以上才能运行,即使是常规的 select current_timestamp 或类似的东西。 我看到我的集群使用率很低,所以我不明白为什么会这样。 如何充分使用我的集群? 我在cloudera网站上 ...

有没有我们不想重复使用 tez 容器的场景? - Is there any scenario where we wouldn't want to reuse tez containers?

几天前,在我的一个项目中,我开始使用 hive 和 tez。 在那段时间里,我遇到了这个属性tez.am.container.reuse.enabled很多网站都建议将其保留为 true。 我明白这是由于: 将新容器的请求限制为 RM 降低容器启动的成本,从而节省时间 但我想不出任何我们 ...

hive alter table concatenate 命令风险 - hive alter table concatenate command risks

我一直在使用 tez 引擎来运行 map 减少作业。 我有一个需要很长时间才能运行的 MR 作业,因为我注意到我有超过 20k 个文件,每个文件都有 1 个条带,并且 tez 并没有根据文件数量而不是条带数量均匀分布映射器。 而且我可以拥有一堆带有 1 个文件但有很多条纹的映射器,并且一些映射器处理 ...

合并 output 文件时出现 java.lang.NullPointerException - java.lang.NullPointerException when merging output files

我有一个包含 3 个分区列的表 城市分区可以有从几mb到几百mb。 我正在尝试优化存储,以便将所有小文件合并为一个等于 128mb 块大小的文件,并相应地拆分更大的文件。 源表有 200 个文件,每个文件大约 150 mb。 它没有分区。 我为此做了一个简单的插入语句。 使用以下设置并得到此错误N ...

hive 如何管理基于非 Tez 和非 MapReduce 的查询 - How hive manage the Non-Tez and Non-MapReduce based queries

我在 Hive 2.3.6(MapR Hadoop Distribution 6.3.0)上触发了上述查询。 默认 hive 引擎是 tez。 因此,在触发查询后,我看不到任何 TEZ 应用程序在纱线资源管理器 web ui上启动所以我将执行引擎更改为 MapReduce。 并尝试再次运行相同的查 ...

Hive query throw “code 2 from org.apache.hadoop.hive.ql.exec.tez.TezTask” exception when query has GROUP BY cluase - Hive query throw “code 2 from org.apache.hadoop.hive.ql.exec.tez.TezTask” exception when query has GROUP BY cluase

我在 HDP 3.1.4 上有 Hive + LLAP Hive 和 Tez 配置是: 以下查询正常运行: 但是在以下查询中使用 group by 表达式时: 我已经尝试了很多配置,但是抛出了这个很长的异常: ...


 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM