为什么即使代理是 sqs，celery worker 仍然尝试连接到 amqp？

Question

我尝试通过设置和直接从 celery 文件配置代理。 下面适用于 celery 的设置。

AWS_SQS_SECRET = os.environ.get("AWS_SQS_SECRET")

broker_url = 'sqs://%s:%s@' % (AWS_SQS_ACCESS, AWS_SQS_SECRET)

task_default_queue = os.environ.get("DEFAULT_QUEUE")


AWS_SQS_REGION = os.environ.get("AWS_REGION")


broker_backend = "SQS"
broker_transport_options = {
    "region": AWS_SQS_REGION,
    # 'queue_name_prefix': '%s-' % 'dev' , # os.environ.get('ENVIRONMENT', 'development'),
    'visibility_timeout': 7200,
    'polling_interval': 1,
 
}
accept_content = ['application/json']
result_serializer = 'json'
task_serializer = 'json'

另外，正如我所提到的，我尝试直接从 celery 文件进行配置。

import os
from celery import Celery
from celery.schedules import crontab
from django.conf import settings


os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'MyApp.settings')

AWS_SQS_ACCESS = os.environ.get("AWS_SQS_ACCESS")
AWS_SQS_SECRET = os.environ.get("AWS_SQS_SECRET")

app = Celery('MyApp') #,, broker='sqs://%s:%s@' % (AWS_SQS_ACCESS, AWS_SQS_SECRET), backend='django-db'
# app.config_from_object('django.conf:settings') #, namespace='CELERY'

CELERY_CONFIG = {
    "CELERY_TASK_SERIALIZER": "json",
    "CELERY_ACCEPT_CONTENT": ["json"],
    "CELERY_RESULT_SERIALIZER": "json",
    "CELERY_RESULT_BACKEND": None,
    "CELERY_TIMEZONE": "America/Sao_Paulo",
    "CELERY_ENABLE_UTC": True,
    "CELERY_ENABLE_REMOTE_CONTROL": False,
}

BROKER_URL = 'sqs://%s:%s@' % (AWS_SQS_ACCESS, AWS_SQS_SECRET)

CELERY_CONFIG.update(
    **{
        "BROKER_URL": BROKER_URL,
        "BROKER_TRANSPORT": "sqs",
        "BROKER_TRANSPORT_OPTIONS": {
            "region": "sa-east-1",
            "visibility_timeout": 3600,
            "polling_interval": 60,
        },
    }
)

app.conf.update(**CELERY_CONFIG)

app.autodiscover_tasks()

在 elastik beanstalk 上部署期间，在服务中我正在运行命令：

$PYTHONPATH/celery -A celery worker -Q default-dev -n default-worker \
         --logfile=/var/log/celery/celery-stdout-error.log --loglevel=DEBUG --concurrency=1

之前尝试运行：

$PYTHONPATH/celery -A MyApp worker -Q default-dev -n default-worker \
         --logfile=/var/log/celery/celery-stdout-error.log --loglevel=DEBUG --concurrency=1

但是出现错误，芹菜“无法加载应用程序 MyApp”。

在日志文件中，我收到以下错误：

[2022-06-10 15:58:25,678: ERROR/MainProcess] consumer: Cannot connect to amqp://guest:**@127.0.0.1:5672//: [Errno 111] Connection refused.
Trying again in 6.00 seconds... (3/100)

我的芹菜版本是 5.2.7

Answer 1

如果我正确理解配置文档，我们应该按如下方式设置配置：

app.conf.broker_url = BROKER_URL
# or, alternatively
app.conf.update(broker_url=BROKER_URL)

即，使用小写名称而不是大写名称。

Answer 2

如果您遇到同样的问题，请尝试重新启动您的 celery 服务。