如何获得boto3 Collection的大小？

Question

我一直在使用的方法是将Collection转换为List并查询长度：

s3 = boto3.resource('s3')
bucket = s3.Bucket('my_bucket')
size = len(list(bucket.objects.all()))

然而，这迫使整个系列的解决方案并且首先避免了使用Collection的好处。 有一个更好的方法吗？

Answer 1

如果没有列出所有对象，则无法获取存储桶中的密钥数量这是AWS S3的限制（请参阅https://forums.aws.amazon.com/thread.jspa?messageID=164220 ）。

获取对象摘要（HEAD）不会获得实际数据，因此应该是相对便宜的操作，如果您只是丢弃列表，那么您可以执行以下操作：

size = sum(1 for _ in bucket.objects.all())

这将为您提供没有构建列表的对象数量。

Answer 2

借用类似的问题 ，从bucket +前缀检索对象键的完整列表的一个选项是使用list_objects_v2方法的递归。

此方法将以递归方式一次检索对象键列表，1000个键。

对list_objects_v2每个请求list_objects_v2使用StartAfter参数继续列出上一个请求中最后一个键之后的键。

import boto3

if __name__ == '__main__':

    client = boto3.client('s3',
        aws_access_key_id     = 'access_key',
        aws_secret_access_key = 'secret_key'
    )

    def get_all_object_keys(bucket, prefix, start_after = '', keys = []):
        response = client.list_objects_v2(
            Bucket     = bucket,
            Prefix     = prefix,
            StartAfter = start_after
        )

        if 'Contents' not in response:
            return keys

        key_list = response['Contents']
        last_key = key_list[-1]['Key']

        keys.extend(key_list)

        return get_all_object_keys(bucket, prefix, last_key, keys)

    object_keys = get_all_object_keys('your_bucket', 'prefix/to/files')

    print(len(object_keys))

Answer 3

对于我的用例，我只需要知道该文件夹是否为空。

s3 = boto3.client('s3')
response = s3.list_objects(
        Bucket='your-bucket',
        Prefix='path/to/your/folder/',
)
print(len(response['Contents']))

这足以知道文件夹是否为空。 请注意，如果在S3控制台中手动创建文件夹，则可以将其视为资源本身。 在这种情况下，如果上面显示的长度大于1，则S3“文件夹”为空。