暂停异步方法的并行执行

Question

我正在编写自己的 HttpClient，它应该处理HTTP - 429 (TooManyRequests) 响应。 我在客户端并行执行一个方法。 一旦收到429 StatusCode 作为响应，我想暂停当前正在调用该方法的所有任务的执行。

目前，我正在使用来自旧 MS DevBlog 的非常旧的代码： PauseToken/Source

private readonly HttpClient _client;

private readonly PauseTokenSource PauseSource;
private readonly PauseToken PauseToken;

public MyHttpClient(HttpClient client)
{
    _client = client;

    PauseSource = new();
    PauseToken = PauseSource.Token;
}

public async Task<HttpResponseMessage> PostAsJsonAsync<TValue>(string? requestUri?, TValue value, CancellationToken cancellationToken = default)
{
    try
    {
        await PauseToken.WaitWhilePausedAsync(); // I'd really like to pass the cancellationToken as well

        HttpResponseMessage result = await _client.PostAsJsonAsync(requestUri, value, cancellationToken).ConfigureAwait(false);

        if (result.StatusCodes == HttpStatusCode.TooManyRequests)
        {
            PauseSource.IsPaused = true;

            TimeSpan delay = (result.Headers.RetryAfter?.Date - DateTimeOffset.UtcNow) ?? TimeSpan.Zero;

            await Task.Delay(delay, cancellationToken);

            PauseSource.IsPaused = false;

            return await PostAsJsonAsync(requestUri, value, cancellationToken);
        }

        return result;
    }
    finally
    {
        PauseSource.IsPaused = false;
    }
}

MyHttpClient.PostAsJsonAsync的调用方式如下：

private readonly MyHttpClient _client; // This gets injected by the constructor DI
private string ApiUrl; // This as well

public async Task SendToAPIAsync<T>(IEnumerable<T> items, CancellationToken cancellationToken = default)
{
    IEnumerable<Task<T>> tasks = items.Select(item => 
        _client.PostAsJsonAsync(ApiUrl, item, cancellationToken));

    await Task.WhenAll(tasks).ConfigureAwait(false);
}

items集合将包含 15'000 - 25'000 个项目。 不幸的是，API 已建成，因此我必须为每个项目提出 1 个请求。

我真的不喜欢使用这样的旧代码，因为老实说，我什至不知道它在幕后做了什么（完整的源代码可以在上面的链接文章中查看）。 另外，我想将我的cancellationToken传递给WaitWhilePausedAsync()方法，因为应该可以随时取消执行。

真的没有简单的方法来“暂停async方法”吗？

我试图将我从result中获得的DateTimeOffset -> RetryAfter存储在本地字段中，然后只是简单地Task.Delay()的增量存储到DateTimeOffset.UtcNow ，但这似乎没有用，我也没有认为它非常高效。

我喜欢拥有PauseToken的想法，但我认为现在可能有更好的方法来做到这一点。

Answer 1

我真的不喜欢使用这样的旧代码

仅仅因为代码旧并不一定意味着它不好。

另外，我想将我的 cancellationToken 传递给 WaitWhilePausedAsync() 方法，因为执行应该可以随时取消

据我所知， WaitWhilePausedAsync只返回一个任务，如果您想在取消令牌被取消后立即中止，您可以将此答案用于WaitOrCancel扩展，使用方式如下：

try{
    await PauseToken.WaitWhilePausedAsync().WaitOrCancel(cancellationToken );
}
catch(OperationCancelledException()){
    // handle cancel
}

真的没有简单的方法来“暂停异步方法”吗？

“暂停和异步方法”应该意味着我们需要等待某些东西，因为我们可能想避免阻塞。 某些东西需要是一个Task ，所以这样的方法可能涉及创建一个可以等待的 TaskCompletionSource ，它在未暂停时完成。 这似乎或多或少是您的 PauseToken 所做的。

请注意，任何类型的“暂停”或“取消”都需要合作完成，因此需要构建任何暂停功能，如果您正在实施自己的客户端，则可能需要由您构建。

但可能有替代解决方案。 也许使用 SemaphoreSlim 进行速率限制？ 如果您收到 ToManyRequests 错误，也许只是稍微延迟请求？ 也许使用可以限制的中央请求队列？