[英]How to modify CTAS query to append query results to table based on if new partition doesn't exist? - Athena
我有一个要每天执行的查询,该查询将按执行日期进行分区。 此查询的结果应附加到同一个表中。
我的想法是理想情况下具有类似于CREATE TABLE IF NOT EXISTS
命令的东西,如果分区尚不存在,则每天通过新分区将数据添加到现有表中,但我不知道我如何能够将此集成到我的查询中。
我的查询:
CREATE TABLE IF NOT EXISTS db_name.table_name
WITH (
external_location = 's3://my-query-results-location/',
format = 'PARQUET',
parquet_compression = 'SNAPPY',
partitioned_by = ARRAY['date_executed'])
AS
SELECT
{columns_that_I_am_selecting_here_including_'date_executed'}
这样做是在执行的第一天创建一个新表,但随后几天没有任何反应,我假设是因为CREATE TABLE IF NOT EXISTS
验证该表已经存在并且不继续执行逻辑。
有没有办法修改我的查询以在执行的第一天创建一个表,并在随后的每一天通过一个新分区附加结果?
我很确定ALTER TABLE table_name ADD [IF NOT EXISTS] PARTITION
不适用于我的用例,因为我正在运行 CTAS 查询。
您可以简单地使用INSERT INTO existing_table SELECT...
。
大概您的表已经分区,因此在 SELECT 中包含该分区列,Amazon Athena 会自动将数据放在正确的目录中。
例如,您可能包含这样的 hte 列: SELECT ... CURRENT_DATE as date_executed
请参阅: 插入 - 亚马逊雅典娜
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.