簡體   English   中英

從 Microsoft CSV 讀取大數據並寫入 AWS 中的 Microsoft Excel 的策略

[英]Strategies reading large data from Microsoft CSV and writing to Microsoft Excel in AWS

請協助確定使用 Amazon AWS 產品進行提取、轉換和加載 (ETL) 工作流程的策略。 我是亞馬遜雲的新手。 我的用例是從 Microsoft CSV 文件中讀取數千行記錄。 我的意圖是將此文件寫入 Microsoft Excel 文檔。 我想將此 excel 文件以 object 的形式存儲在 S3 存儲桶中。 目前,我正在使用 AWS Lambda 進行此概念驗證。 我的問題是 /tmp 大小超過 512 MB,即使我在 lambda 規范中使用 select 6 GB RAM 大小。 我不做任何磁盤操作。 我在 RAM 中讀取了所有 S3 csv 文件內容一次,並在 RAM 中寫入 excel。

您應該考慮使用 aws 膠水進行大容量數據轉換。 Lambda 可能不適合這項任務

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM