[英]How can I copy all objects from one Amazon S3 bucket to another bucket?
[英]How can I copy/move multiple objects from a S3 bucket within specified byte-ranges to another bucket?
嘿,我正在尝试将多个对象(200,000+)从公共天气预报存储桶 ( NOAA GFS ) 复制到我的私有 S3 存储桶。
每个预测文件都有自己的索引文件,其中包含不同变量的字节范围。 在这 500 个变量中,只有 20 个对我有用。
我已经设法通过迭代每 object 并提取指定字节来使用 boto3 做到这一点。 但这个过程非常缓慢。 有什么可能的改进?
您可以使用upload_copy_part
来实现它。 在这里查看详细信息
CopySourceRange
采用类似bytes=start-end
的值
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.