簡體   English   中英

Python:azure-storage-blob 需要 6 分鍾才能將 20MB 文件下載到本地

[英]Python: azure-storage-blob takes 6 min to download a 20MB file to local

我必須從 Azure 存儲下載 .parqeat 文件,並且必須分析數據。 So I started using python codes with azure-storage-blob library and Pandas to store DataFrames and flask to create API on response. 但是現在 Azure 存儲中的文件大小已增加到 30MB(一天文件),並且經過測試,將 20MB 文件下載到我的本地需要 6 分鍾,這是我負擔不起的,因為我必須分析一個月中每一天的文件,每個將有 20 MB。 這幾乎是 30 個20MB 大小。 有什么建議嗎?

你找到你的答案了嗎? 如果沒有代碼片段,就很難診斷您的問題。 Azure Blob 存儲支持並行讀取。 如果您有BatchServiceClient服務,那將很簡單。 否則,請嘗試Multiprocessing模塊。 氪。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM