如何在 S3 上存储大型 Python 依赖项（适用于无服务器的 AWS Lambda）

Question

我正在使用 AWS Lambda 来托管 Python 项目，使用无服务器框架管理部署，并且遇到了常见的 50MB 包存储限制。 到目前为止，我已经使用 serverless-python-individually 和 serverless-python-requirements 插件成功地将我的需求拆分为每个函数，以将每个文件作为单独的 Lambda 函数进行 dockerise、压缩和上传，如关键部分所示我的 serverless.yml 文件，如下所示。

这使前三个函数包保持在 50MB 以下，并创建了一个简单的工作流程，我可以在其中简单地使用： sls deploy --pi-dockerizedPip推送更改。 然而，第四个包，只有SciPy的要求，不能减少到 52MB 以下，经过大量阅读，我看到的唯一常见方法是将我的依赖项（即？）上传到 S3（某处）并以某种方式确保我的导入语句能够找到依赖项。

我还没有找到关于应该如何完成打包依赖项的确切过程的明确说明，以及（几乎同样重要），如何与 Serverless 一起工作（这样我才能保持良好的工作流程）？

serverless.yml 的关键部分：

package:
  individually: True
  exclude:
    # Exclude everything first.
    - '**/*'

functions:
  brain:
    handler: src/1-brain/wrap.handler
    package:
      include:
        - src/1-brain/**
    events:
      - schedule: rate(5 minutes)
  data:
    handler: src/2-data/wrap.handler
    package:
      include:
        - src/2-data/**
  strategy:
      handler: src/3-strategy/wrap.handler
      package:
        include:
          - src/3-strategy/**
  balancer:
      handler: src/4-portfolio-balancer/wrap.handler
      package:
        include:
          - src/4-portfolio-balancer/**  
custom:
  pythonRequirements:
    useDownloadCache: true
    useStaticCache: true
    dockerizePip: true
    zip: true
    slim: true
  pyIndividually:
    wrap:brain: src/1-brain/aws_handler.handler     # mapping to the real handler
    wrap:data: src/2-data/datafeed.handler          # mapping to the real handler
    wrap:strategy: src/3-strategy/strategy.handler  # mapping to the real handler
    wrap:balancer: src/4-portfolio-balancer/balancer.handler  # mapping to the real handler

Answer 1

AWS Lambda 层使您能够将您的包/环境捆绑到一个层中。 您最多可以使用 5 个层，并且对于任何特定 lambda 函数，所有各个层的累积总和 + lambda 代码的未压缩限制为 250 MB。

查看“在层中包含库依赖项”部分https://docs.aws.amazon.com/lambda/latest/dg/configuration-layers.html