無法使 airflow AWS 連接工作“ModuleNotFoundError：沒有名為‘airflow.providers.amazon’的模塊”

Question

我一直在嘗試運行一個簡單的 Airflow DAG 來顯示 s3 存儲桶中的內容，但我不斷收到此錯誤： ModuleNotFoundError: No module named 'airflow.providers.amazon'

我已經嘗試了類似問題中推薦的幾個 pip 安裝，但仍然沒有運氣。 這是 python 腳本，下面是我的 Airflow 網絡服務器的屏幕截圖，顯示了錯誤消息。 注意我使用的是 Airflow 版本 2.5.0

import datetime
import logging

from airflow import DAG
from airflow.models import Variable
from airflow.operators.python_operator import PythonOperator
from airflow.hooks.S3_hook import S3Hook

def list_keys():
    hook = S3Hook(aws_conn_id='aws_credentials_old')
    bucket = Variable.get('s3_bucket')
    prefix = Variable.get('s3_prefix')
    logging.info(f"Listing Keys from {bucket}/{prefix}")
    keys = hook.list_keys(bucket, prefix=prefix)
    for key in keys:
        logging.info(f"- s3://{bucket}/{key}")


dag = DAG(
        'lesson1.exercise4',
        start_date=datetime.datetime.now())

list_task = PythonOperator(
    task_id="list_keys",
    python_callable=list_keys,
    dag=dag
)

Answer 1

您可以嘗試安裝 backport-providers-amazon package，因為它僅在 Airflow 主分支中可用。

pip install apache-airflow-backport-providers-amazon

在這里您可以找到更多信息。 https://pypi.org/project/apache-airflow-backport-providers-amazon/