cost 55 ms
如何对kafka生产者施加背压? - How to apply back pressure to kafka producer?

背压可以通过限制队列大小来提供帮助,从而为队列中的作业保持高吞吐率和良好的响应时间。 在 RabbitMQ 中,可以应用设置队列长度限制。 卡夫卡如何做到这一点? 这可以通过在 kafka 生产者和代理之间保持 Rate Limiter(TokenBucket) 来完成,其中当前的桶大小和重新填 ...

akka-stream 管道背压尽管插入了缓冲区 - akka-stream pipeline backpressures desipite inserted buffer

我有一个 akka-stream 管道,它扇出通过SourceQueueWithComplete推入 stream 的事件(通过BroadcastHub )。 尽管所有下游消费者都插入了.buffer() (我希望它确保集线器和队列的上游缓冲区保持耗尽),但我仍然观察到在系统运行一段时间后出现背压。 ...

如何在 gRPC 中做服务端背压? - How to do server-side backpressure in gRPC?

我只是发现在C++中,在使用AsyncService的时候,即使我没有请求新的请求,gRPC还是会从网络中读取数据。 这导致我的系统中大量使用 memory。 详细场景: 我有一个客户端会向服务器发送大量请求。 在服务器端,我没有请求任何请求。 服务器在cq_->Next(&tag, ...

使用 RestTemplate 发布 InputStream 并处理背压 - POST InputStream with RestTemplate and handling backpresure

我们有 3 层系统(UI、服务器 1、服务器 2) 我们必须将文件从我们的客户端(Angular)传输到某个服务器(java server1,Spring)并且该服务器必须将文件数据传递给第二个服务器 UI => 服务器 1 ==> 服务器 2 我们想要stream字节从UI到“Serv ...

Node stream.pipeline 是否也提供反压保护? - Does Node stream.pipeline also provides back-pressuring prevention?

这个问题的答案或许只有一个词。 这里的文档有点令人困惑:一开始它介绍了stream.pipeline()方法作为.pipe方法的更优选版本,但后来它只关注 .pipe 方法作为提供背压的方法预防机制。 Node 官方文档也明确提到.pipe具有反压预防机制,但没有提及pipeline方法。 那 ...

确保订阅(接收器)只发生一次 - Make sure subscribe (sink) happens only once

我正在尝试编写一个“类似闭包”的组合观察者。 假设我有 MyClass 我可以使用一个简单的 function 来访问它 现在,我想使用组合 @Published 来做同样的事情所以我会打电话 但是,我希望它只被触发一次,所以如果我打电话 我不会得到 5 个打印件,但只有第一个。 我为此找到的一种解 ...

如果客户端确实读取数据并且应用程序继续写入,Netty 关闭通道策略是什么? - What is Netty closing channel policy if client does read data and application keeps writing?

我的应用程序使用带有 TCP sockets 的 Netty 4.x 将相同的数据分发给多个客户端。 我希望我的应用程序能够容忍一些客户端在数据接收中的停滞,但如果客户端太慢,我希望我的应用程序放弃(关闭)连接。 如果我理解正确,我可以通过正确配置来实现: sendBufferSize(在底层操 ...

如何使用 AWS Lambda 和 MSK (Kafka) 事件 stream 应用背压 - How to apply back pressure with AWS Lambda and MSK (Kafka) event stream

是否有可能做到这一点? 在处理 SQS 事件流时,如果 Lambda function 没有足够的预留并发,则 function 将被限制,并且可以通过 SQS 重驱动策略来限制未处理的事件/消息。 我从不喜欢这种限制,因为在任意次数的重试/消息可见性超时后,未处理的消息最终会出现在 DLQ 上。 ...

从 Flux 中读取<Integer>分块 - Reading from a Flux<Integer> in chunks

是否可以分块从 webflux 通量中读取? (除了使用 delayElements ) 例如在我写完之后 有没有办法继续读取接下来的5个整数? 如果没有,消费者是否有其他选择来决定何时请求下一条数据? 编辑: 为了澄清,我想读取前 5 个值,然后暂停,然后读取接下来的 5 个值而不重 ...

微型背压 - Micronaut backpressure

我们正在寻找限制 Micronaut 2.0.1 公开的 HTTP 端点接受的并发连接数的最佳方法。 端点接受图像文件,将它们写入磁盘并创建缩略图。 由于请求太多,我们的内存不足。 到目前为止,我们发现的是Netty 线程池的设置。 我们怀疑这些是否可以让我们强制执行特定限制。 他们似乎更多地与 ...

可以让事件处理程序等到异步/基于 Promise 的代码完成吗? - Possible to make an event handler wait until async / Promise-based code is done?

我在 nodejs 模式下使用出色的 Papa Parse 库,将超过 100 万行的大型(500 MB)CSV 文件流式传输到一个缓慢的持久性 API 中,该 API 一次只能接受一个请求。 持久性 API 基于Promise s,但从 Papa Parse,我在同步事件中接收每个解析的 CSV ...

使用apachecamel和Kafka时如何处理背压? - How to handle backpressure when using apache camel and Kafka?

我正在尝试编写一个将使用 Camel 与 Kafka 集成的应用程序。 (版本 - 3.4.2) 我从这个问题的答案中借用了一种方法。 我有一个监听来自 Kafka 主题的消息的路由。 该消息的处理通过使用一个简单的执行器与消费解耦。 每个处理都作为一个任务提交给这个执行器。 消息的排序并不重 ...

MQTT 通配符订阅、背压和 QOS - MQTT wildcard subscriptions, backpressure and QOS

这更像是一个通用问题,但是在不同的客户端或协议版本甚至服务器版本中可能会有不同的处理方式。 所以我在这里说的是 QOS 2 级订阅。 在这种情况下,数据包按顺序处理。 并且既然有一个确认协议,这意味着在第一个消息被确认之前无法处理下一个消息? 或者它的订购只为接收而维持,而不是为了确认? 如果通过 ...

ReactiveX 背压没有按预期工作 - ReactiveX Backpressure doesn't work as expected

我正在尝试使具有背压的流动性。 我的想法是,在当前项目之一完成处理之前,不会发出可流动的新项目。 我正在使用 ResourceSubscriber 和 subscribeWith() 方法来实现这一点。 flowable 的每个元素都在单独的线程池上异步处理。 (我通过使用 flatMap/su ...

进程被阻塞时nodejs服务器请求会发生什么 - What happens to nodejs server requests when the process is blocked

当 nodejs 服务器被阻塞时,传入的请求会发生什么? 有时服务器会被阻塞,因为它正在处理一些计算成本很高的东西,或者可能正在执行一些同步 IO(例如写入 sqlite 数据库)。 最好用一个例子来描述: 给定这样的服务器:const { execSync } = require('child_p ...


 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM