繁体   English   中英

如何将指定字节范围内的多个对象从 S3 存储桶复制/移动到另一个存储桶?

[英]How can I copy/move multiple objects from a S3 bucket within specified byte-ranges to another bucket?

嘿,我正在尝试将多个对象(200,000+)从公共天气预报存储桶 ( NOAA GFS ) 复制到我的私有 S3 存储桶。

每个预测文件都有自己的索引文件,其中包含不同变量的字节范围。 在这 500 个变量中,只有 20 个对我有用。

我已经设法通过迭代每 object 并提取指定字节来使用 boto3 做到这一点。 但这个过程非常缓慢。 有什么可能的改进?

您可以使用upload_copy_part来实现它。 这里查看详细信息

CopySourceRange采用类似bytes=start-end的值

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM