繁体   English   中英

使用 require_partition_filter 列出 BigQuery 分区表中的所有分区

[英]Listing all the partitions from BigQuery partitioned table with require_partition_filter

我正在尝试找到一种方法来列出使用require_partition_filter = true创建的表的分区,但是我还找不到方法。

这是建表脚本

CREATE TABLE mydataset.partitionedtable_partitiontime
(
x INT64 \
)
PARTITION BY DATE(_PARTITIONTIME)
OPTIONS(
require_partition_filter = true
);

一些测试行

INSERT INTO mydataset.partitionedtable_partitiontime (_PARTITIONTIME, x) SELECT TIMESTAMP("2017-05-01"), 10;
INSERT INTO mydataset.partitionedtable_partitiontime (_PARTITIONTIME, x) SELECT TIMESTAMP("2017-04-01"), 20;
INSERT INTO mydataset.partitionedtable_partitiontime (_PARTITIONTIME, x) SELECT TIMESTAMP("2017-03-01"), 30;

正如预期的那样,如果尝试以下查询来获取分区,我会收到错误消息,因为我需要在分区列的顶部使用过滤器

SELECT _PARTITIONTIME as pt, FORMAT_TIMESTAMP("%Y%m%d", _PARTITIONTIME) as partition_id
FROM `mydataset.partitionedtable_partitiontime`
GROUP BY _PARTITIONTIME
ORDER BY _PARTITIONTIME

错误

Cannot query over table 'mydataset.partitionedtable_partitiontime' without a filter over column(s) '_PARTITION_LOAD_TIME', '_PARTITIONDATE', '_PARTITIONTIME' that can be used for partition elimination

任何想法如何列出分区?

编辑:我知道可以添加过滤器,但我正在寻找像 Hive 的“SHOW PARTITIONS TABLENAME”这样的解决方案来列出所有分区(本质上是元数据)

谢谢!

这是这样做的方法:

SELECT * FROM `mydataset.partitionedtable_partitiontime$__PARTITIONS_SUMMARY__`

需要bigquery.jobs.create权限。

编辑:现在可以使用标准 SQL 获取此信息:

SELECT * FROM `myproject.mydataset.INFORMATION_SCHEMA.PARTITIONS`
WHERE table_name = 'partitionedtable'

正如hlagos所提到的,您可以通过查询_PARTITIONTIME伪列来获取此数据,如果您使用的是Standard SQL__PARTITIONS_SUMMARY__ meta table for Legacy SQL

您可以查看此 GCP 文档,其中包含有关使用此分区表元数据的详细信息。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM