puppeteer-cluster：排队而不是执行

Question

我正在试验 Puppeteer Cluster，但我不明白如何正确使用排队。 它只能用于不等待响应的呼叫吗？ 我正在使用 Artillery 同时发出一堆请求，但是当我直接执行命令时，它们都失败了，而只有一些失败。

我直接从示例中获取了代码，并将execute替换为我希望工作的queue ，除了代码不等待结果。 有没有办法实现这一目标？

所以这有效：

const screen = await cluster.execute(req.query.url);

但这打破了：

const screen = await cluster.queue(req.query.url);

这是queue的完整示例：

const express = require('express');
const app = express();
const { Cluster } = require('puppeteer-cluster');

(async () => {
    const cluster = await Cluster.launch({
        concurrency: Cluster.CONCURRENCY_CONTEXT,
        maxConcurrency: 2,
    });
    await cluster.task(async ({ page, data: url }) => {
        // make a screenshot
        await page.goto('http://' + url);
        const screen = await page.screenshot();
        return screen;
    });

    // setup server
    app.get('/', async function (req, res) {
        if (!req.query.url) {
            return res.end('Please specify url like this: ?url=example.com');
        }
        try {
            const screen = await cluster.queue(req.query.url);

            // respond with image
            res.writeHead(200, {
                'Content-Type': 'image/jpg',
                'Content-Length': screen.length //variable is undefined here
            });
            res.end(screen);
        } catch (err) {
            // catch error
            res.end('Error: ' + err.message);
        }
    });

    app.listen(3000, function () {
        console.log('Screenshot server listening on port 3000.');
    });
})();

我在这里做错了什么？ 我真的很想使用排队，因为没有它，每个传入请求似乎都会减慢所有其他请求。

Answer 1

puppeteer-cluster 的作者在这里。

来自文档的引用：

cluster.queue(..) : [...] 请注意，出于向后兼容性的原因，此函数仅返回 Promise。 此函数不会异步运行，会立即返回。

cluster.execute(...) : [...] 像Cluster.queue一样工作，只是这个函数返回一个 Promise，它会在任务执行后被解析。 如果在执行过程中发生错误，该函数将拒绝抛出错误的 Promise。 不会触发“taskerror”事件。

何时使用哪个函数：

• 如果您想对大量作业（例如 URL 列表）进行排队，请使用cluster.queue 。 任务功能需要通过将结果打印到控制台或将它们存储到数据库来处理存储结果。
• 如果您的任务函数返回结果，请使用cluster.execute 。 这仍然会将作业排队，因此除了等待作业完成之外，这就像调用queue一样。 在这种情况下，最常见的是存在“空闲集群”，当请求到达服务器时使用该集群（如您的示例代码中所示）。

---

所以，你肯定想使用cluster.execute因为你想等待任务函数的结果。 您没有看到任何错误的原因是（如上所述） cluster.queue函数的错误是通过taskerror事件发出的。 直接抛出cluster.execute错误（Promise 被拒绝）。 最有可能的是，在这两种情况下，您的作业都失败了，但它仅对cluster.execute可见