将任务发送给 celery 中的两个单独的工作人员

Question

我在 celery 中有两个任务，想将它们发送给不同的工作人员来完成，但我不知道该怎么做。 我查看了 celery 文档的 task_routes 部分，并从 stackoverflow 尝试了一些东西，但没有运气。

任务.py

@app.task
def task1():
     does something


@app.task
def task2():
     does something else

我有两个 celery 工作人员，我希望他们每个人都专注于一项任务，因此 worker1 在 task1 上，worker2 在 task2 上

celery.py

os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'project.settings')

app = Celery('project')

app.conf.timezone = 'Europe/London'

app.config_from_object('django.conf:settings')
app.conf.update(BROKER_URL=str(os.getenv('REDIS_URL')),
                CELERY_RESULT_BACKEND=str(os.getenv('REDIS_URL')),
                broker_use_ssl = {
                        'ssl_cert_reqs': ssl.CERT_NONE
                    },
                    redis_backend_use_ssl = {
                        'ssl_cert_reqs': ssl.CERT_NONE
                    })
                
app.autodiscover_tasks()

然后 procfile -

web: gunicorn project.wsgi --log-file -
worker1: celery -A project worker -l INFO --concurrency=1 -Ofair -n worker1.%h
worker2: celery -A project worker -l INFO --concurrency=1 -Ofair -n worker2.%h

如何设置队列以便worker1 = task1 和worker2 = task2？

Answer 1

您可以为不同的任务设置两个单独的队列：

# 'your.project.tasks.task2' is same as import path
app.conf.task_routes = {'your.project.tasks.task2': {'queue': 'some_special_queue'}}

并运行 Celery 为：

# you may add -Q celery to first command (celery is a default queue name if you didn't specify it)
celery -A project worker -l INFO --concurrency=1 -Ofair -n worker1.%h 
celery -A project worker -l INFO --concurrency=1 -Ofair -n worker2.%h -Q some_special_queue

task2会将消息添加到some_special_queue并且只有worker2监听这个队列

所有其他任务将由标准celery队列处理