[英]How to get second last key from JSON in Amazon Athena?
我想從我的 json 中獲取倒數第二個密鑰,我試過了 但它給出了以下錯誤 awsathena 錯誤:INVALID_FUNCTION_ARGUMENT:無效的 JSON 路徑:'$[-1]' 當使用鍵名給我正確的結果時,結果 給我正確的 output ...
[英]How to get second last key from JSON in Amazon Athena?
我想從我的 json 中獲取倒數第二個密鑰,我試過了 但它給出了以下錯誤 awsathena 錯誤:INVALID_FUNCTION_ARGUMENT:無效的 JSON 路徑:'$[-1]' 當使用鍵名給我正確的結果時,結果 給我正確的 output ...
[英]How to convert string with GMT to date in Athena
我有一列以字符串格式填充日期,例如2023-01-31 11:21:33 GMT 。 我正在嘗試編寫一個查詢,該查詢將 select 一年零一個月,稍后將進行一些計算。 我使用EXTRACT(YEAR FROM a))等的標准方法不起作用。 因此,我正在嘗試使用PARSE_DATETIME(a, ' ...
[英]Athena Timestamp
我的日期時間的合適格式是什么? 我嘗試了幾種組合並遇到了各種錯誤。 數據是一個字符串,這里是一個例子:“2022-10-28T00:00:00Z” 這些都不起作用: `WHERE MONTH(parse_datetime(start, 'yyyy-MM-dd"T"HH:mm:ss"Z"')) = ...
[英]Connect Snowflake from AWS Athena using Spark engine
在 AWS Re:Invent 2022 中宣布了 Athena 的新功能,包括使用 Apache Spark 運行數據分析和探索,而無需規划、配置或管理資源。 但是我想知道是否有可能或者是否有人嘗試使用這些 pyspark 筆記本連接到雪花? 我知道使用 Athena SQL 引擎我可以做到,但 ...
[英]Block files download from Amazon S3 without compromising Amazon Athena
我在下面創建了此策略以防止用戶下載特定 Amazon S3 存儲桶中的文件,但他們也無法在 Amazon Athena 中運行查詢,出現“Permission denied on S3 path: ...”錯誤。 一旦我刪除了策略,他們就可以立即再次運行查詢。 另一方面,他們可以讀取 EMR Not ...
[英]How to ensure a Step Function executes Parameterized Query properly in AWS?
我目前正在嘗試在 State 機器上執行 Athena 查詢。 查詢本身需要一個日期變量以在多個WHERE語句中使用,因此我使用 Lambda 來生成它。 當我運行EXECUTE prepared-statement USING 'date', 'date', 'date'; 直接在 Athena ...
[英]Projection Pushdown Trino/Presto SQL (Athena)
在這種情況下投影下推是否有效? 如您所見,在 CTE 中,我從表中執行了一個SELECT * 但是當我實際提取數據時,我只提取了列 id 在這種情況下,查詢引擎是在過濾和僅顯示 id 列之前讀取並引入表中的所有列(如果有多個列,這將是一個很大的 memory 浪費)還是應用投影下推和查詢引擎掃描並 ...
[英]How to deal with failing Athena queries as AWS Glue datacatalog metada size grows large?
根據我的研究,從 Glue 的數據目錄中獲取元數據的最簡單和最直接的方法是使用 Athena 並查詢information_schema數據庫。 以下文章在我的研究中經常出現,由亞馬遜團隊撰寫: 查詢 AWS Glue 數據目錄但是,在標題為“注意事項和限制”的部分下,寫了以下內容: 如果您有少 ...
[英]AWS Athena BIGINT with ddmmyyyyhhmmss to date time
我有一個 bigint 數據類型值 10062019192751 據說它是一個格式為 ddmmyyyyhhmmss (10-06-2019 19:27:51) 的日期時間我如何在 AWS Athena 中將其轉換或解析為日期時間使用來自_unixtime 的語法,給了我不同的價值 ...
[英]AWS Athena: casting float to int return round instead of integer part
使用 AWS Athena,我正在運行查詢 我得到:0、0、1、1 我希望得到:0、0、0、0 cast 的預期行為是舍入一個數字嗎? ...
[英]how to convert timestamps in a nullable column to dates in aws athena?
我想將字符串的數據類型(例如:'2018-03-27T00:20:00.855556Z')轉換為日期(例如:'2018-03-27') 問題是 cast(substring(dt, 1, 10) as date) 在這里不起作用(INVALID_CAST_ARGUMENT:無法將值轉換為日期)並且 ...
[英]Trying to convert json to string (Athena AWS)
我有一個 json 格式如下: myjson = {"key":["value1","value2"]}我想將它轉換為字符串有時這個 json 可以返回 null: myjson = {"key":null} 。 我想獲取字符串形式的值,但是當我嘗試將cast(json_extract(myjso ...
[英]Creating a table with partition projection results in an empty one
我正在基於 S3 存儲桶中 CSV 個文件的列表在 Athena 中創建一個表。 存儲桶中的文件放置在這樣的文件夾中: 這是文件夾結構的格式: 我想使用 Athena 的分區投影,這就是我創建表格的方式:CREATE EXTERNAL TABLE analytics.logs ( id stri ...
[英]Profile file cannot be null error using DBeaver under Windows10 AWS Athena IAM profile
我在 GitHub 中檢查了這個問題和這個線程。 它適用於 Mac 但不適用於 Windows。 而且我仍然收到錯誤。 看起來 dbeaver 無權訪問憑據文件。 有任何想法嗎? 您可能會在下面看到我的設置: ...
[英]Creating an Athena view on a HUDI table returns soft deleted records when the view is read using SPARK
我有多個具有不同列名的 HUDI 表,我在其上構建了一個視圖以標准化列名。 從 Athena 讀取此視圖時,它會返回正確的響應。 但是,當使用 SPARK 使用 spark.read.parquet("<>") 讀取相同的視圖時,它也會返回軟刪除的記錄。 我知道需要使用 spark.re ...
[英]How to update table in Athena
我正在使用 create sql 查詢從 Athena 中的另一個表“B”創建一個表“A”。 但是,表“B”每小時更新一次新行。 我想知道如何在不刪除表 A 並重新創建它的情況下更新表 A 數據。 我嘗試刪除表並再次創建它,但這似乎會在每次創建新表時產生性能問題。 我只想在表 A 中插入新行,以表 ...
[英]SQL query to extract characters between the strings and making new rows and columns
所以我有一個包含長文本的表格,如果我更改我的配置文件設置中的某些項目,它基本上是記錄的更改。 我需要提取更改的項目,以及項目中文本的前后。 表格如下: 主表 ID 日期細繩 1234 2022-01-01 company_id:;-;- 1;name:;- ABC;- ABC(new);addr ...
[英]athena / presto query
我有一個 json 保存在 Athena 表中 我需要在 Athena 中編寫一個查詢來查找,找到所有 FAILED=TRUE 記錄,如下所示 output: 我嘗試了各種功能,如 TRANSFORM、UNNEST、JSON_EXTRACT 等,但還沒有成功。 請告知我是否可以使用任何特定功能。 提 ...
[英]How to transform data into daily snapshot given the two date columns?
我的表中有產品數據,看起來與此類似產品編號用戶身份銷售開始銷售結束數量 1個 12 2022-01-01 2022-02-01 15 2個 234 2022-11-01 2022-12-31 123 我想將表格轉換為每日快照,使其看起來像這樣: 產品編號用戶身份數量日期 1個 12 ...
[英]How to do flaten a date sequence in snowflake given the 'unnest' code in Athena SQL?
我只是在學習雪花。 現在有一個問題可能與 unnest/flaten 等有關。我在 Athena 中有一個 SQL 代碼: 結果是一個日期序列: 我怎樣才能在雪花中做到這一點? ...