[英]Snowflake Tasks and Streams - Complexity and Visualization
我們正在進入 POC,需要確定 Snowflake 任務和流是否對 CDC 和數據轉換有用。 我已經閱讀了雪花文檔,而且我閱讀的越多,似乎處理起來就會很復雜。 考慮成千上萬的表和復雜的轉換,任務和流將如何擴展? 考慮從其他 5 個提要加載的表格,該過程將是什么樣子。 最重要的是,雪花不提供任何可視化 ...
[英]Snowflake Tasks and Streams - Complexity and Visualization
我們正在進入 POC,需要確定 Snowflake 任務和流是否對 CDC 和數據轉換有用。 我已經閱讀了雪花文檔,而且我閱讀的越多,似乎處理起來就會很復雜。 考慮成千上萬的表和復雜的轉換,任務和流將如何擴展? 考慮從其他 5 個提要加載的表格,該過程將是什么樣子。 最重要的是,雪花不提供任何可視化 ...
[英]Why does Snowflake recommend creating an external stage rather than loading it directly from a bucket?
在有關從 AWS S3 批量加載的雪花文檔中,他們說: 您可以直接從存儲桶加載,但 Snowflake 建議創建一個引用存儲桶的外部階段並改用外部階段。 所以我的第一個問題是:為什么 Snowflake 建議創建一個外部階段而不是直接從存儲桶中加載它? 是否有一個原因? 或者,如果您有任何文件解釋 ...
[英]Manually flush data from table streams in Snowflake
我將表 stream 用於我的 ETL 管道。 我只是想知道是否有可能手動刷新表 stream 中的數據而不將其保存在其他表中的任何位置? ...
[英]Snowflake stream not working after table swap
我正在使用我在論壇snowpipe -> load_table <-> staging table -> final table 上找到的方法將數據加載到雪花中staging_table 進一步的任務將 staging_table 處理成最終表 然后 staging_tabl ...
[英]Error calling JavaScript based Stored Procedure in Snowflake
我正在嘗試使用 JavaScript 讀取 API。 由於雪花存儲過程基於 JavaScript,我嘗試了以下存儲過程。 而且,嘗試調用存儲過程時出現以下錯誤: JavaScript 執行錯誤:未捕獲的 ReferenceError:XMLHttpRequest 未在 STPROC1 中的“var ...
[英]Snowflake-Internal Stage data load error: How to load “\” character
在一個文件中,很少有行在列值中有\,例如,我有以下格式的行。 101,路徑1,Z:\VMC\PSPS,abc 102,Path5,C:\wintm\PSPS,abc 我想知道如何加載 \ 字符 有什么我可以提到的 file_format 行嗎? ...
[英]Data aggregation during data load to snowflake using snowpipe
我正在評估雪花以報告用例。 我正在考慮ETL的雪管。 數據是從 S3 提取的。 S3 中的數據包含有關定期捕獲的用戶會話的信息。 在雪花中,我想存儲這些數據聚合。 根據文檔,雪花僅支持基本轉換,並且在將數據從 S3 暫存復制到雪花中的表期間不支持分組和聯接。 我是 ETL 和雪花的新手。 我正在考 ...
[英]Snowflake Timestamp column not loaded using Copy Command
我正在使用 Copy 命令加載表中的文件。 它有一個時間戳列。 在我的文件格式中,我將時間戳定義為其他,並將值設置為 MM/DD/YYYY HH:MI:SS AM 以與數據匹配。 當我執行它時,它加載所有具有 AM 格式時間戳的記錄,並且任何具有 PM 時間戳的記錄在 Copy 中失敗。 樣本 ...
[英]Snowflake How to get Records failed in Copy command
是否可以獲取在 Snowflake 中的 Copy 命令期間失敗的記錄從內部階段到雪花表? 我試圖在 Copy 命令執行期間在錯誤表中加載錯誤記錄。 使用的復制命令: 復制到表 ( col1, col2,col3,col4) from ( select $1,$2,$3,56 from @%ta ...
[英]Does Snowflake insert “OVERWRITE” impact how STREAMs capture changes
我注意到 Snowflake STREAM 捕獲了表的所有行,而不僅僅是 City=SFO 有什么想法嗎? ...
[英]Error while loading csv file to Snowflake Table as "Timestamp '9/15/2020 1:28:00 AM' is not recognized"
csv_file: 我正在嘗試使用以下命令將文件從 s3 加載到雪花: COPY INTO table_name FROM @stage/file_name.csv FILE_FORMAT = ( type = csv SKIP_HEADER = 1 ) FORCE = ...
[英]How can I get number of columns in Staged File Snowflake
我在 Snowflake 中暫存文件並使用 Copy 加載到表中。 在加載之前,我想檢查文件中的列數以確保它與表匹配。 如何獲取此暫存文件的列數? ...
[英]Snowflake Validate Option does not return Failed records When using TO_DATE function in Copy Command
我使用了復制命令如下: 從@%test2 file_format = (format_name = 'CSV') on_error = 'CONTINUE' 復制到 test2; 我的文件在 Number 字段中包含一些字符數據(對於所有記錄),因此復制結果為 LOAD_FAILED,我可以使用 ...
[英]how do i connect local hive to snowflake?
我已經完成了雪花文檔中的步驟來配置配置單元和雪花之間的連接器。 https://docs.snowflake.com/en/user-guide/tables-external-hive.html#step-1-install-the-connector 但是我看不到雪花歷史中的配置單元表甚至 ...
[英]Snowflake Using Streams to Track Updates/Deletes to a Table
我無法理解 Streams 在跟蹤更改方面的工作方式。 我想創建一個歷史表來跟蹤表的每個UPDATE和DELETE ,但我發現我不明白它是如何工作的。 如果我有帶有 Stream 的表Table1 : 如果我插入數據: 然后運行: 它返回以下內容: 到目前為止,一切都很好。 但是如果我運行: 然后 ...
[英]Snowflake : Copy comman not generating Constant SIze for multiple files while unloading
復制到@elasticsearch/product/s3file from (select object_construct(*)from mytable) file_format = (type = json, COMPRESSION=NONE), overwrite=TRUE, single = ...
[英]Start of week number in an year - Snowflakes
2021 年的周數從 53 開始。我希望它是 1。每年的周數都必須重置並從 1 開始。 下面的示例查詢在 sql 中返回 1 但是 select week('2021-01-01'::date) 在雪花中返回 53。 我需要結果是雪花中的 1。 ...
[英]Can we have Table Declaration in Snowflake similar to Oracle SQL?
我正在嘗試使用表聲明語法並在 Snowflake SQL 中創建相同的語法。 我瀏覽了雪花社區和文檔,我能找到的只是表變量直接分配類似於 SQL 表變量或使用表 function。 ...
[英]How to pass a range of date in where clause in snowflake while writing a query
如何在編寫查詢時在雪花中的 where 子句中傳遞日期范圍並避免下一次運行重復。 我有以下查詢,我必須每天獲取 15 天的數據,直到前一天。 數據將從下面給出的查詢傳遞到我的最終表。 對於給定的所有列,我的最終數據不應該有重復的行。 數據如下所示: {“位置”:“xyz”,“指標”:[{“名稱”: ...
[英]Snowflake Java Script User Defined Table Function
如何從 Snowflake Javascript UDF / UDTF 返回包含多列的表? ...