簡體   English   中英

如何將指定字節范圍內的多個對象從 S3 存儲桶復制/移動到另一個存儲桶?

[英]How can I copy/move multiple objects from a S3 bucket within specified byte-ranges to another bucket?

嘿,我正在嘗試將多個對象(200,000+)從公共天氣預報存儲桶 ( NOAA GFS ) 復制到我的私有 S3 存儲桶。

每個預測文件都有自己的索引文件,其中包含不同變量的字節范圍。 在這 500 個變量中,只有 20 個對我有用。

我已經設法通過迭代每 object 並提取指定字節來使用 boto3 做到這一點。 但這個過程非常緩慢。 有什么可能的改進?

您可以使用upload_copy_part來實現它。 這里查看詳細信息

CopySourceRange采用類似bytes=start-end的值

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM