繁体   English   中英

Spring-amqp-消息处理延迟

[英]Spring-amqp - Message processing delayed

我们在RHEL 7.0 VM上部署了Java / spring / tomcat应用程序,该应用程序使用AlejandroRivera / embedded-rabbitmq,一旦战争部署完毕,它将启动Rabbitmq服务器,并与之连接。 我们有多个队列用于处理和过滤事件。

流程是这样的:

我们收到的事件->发布事件队列->侦听器类过滤事件->发布到另一个队列进行处理->我们发布到另一个队列进行记录。

问题是:

  • 处理正常开始,我们可以看到消息通过队列流动,但是一段时间后,侦听器类停止接收事件。 看来我们已经能够将其发布到RabbitMQ频道,但是它从来没有脱离侦听器的队列。 这似乎开始降级,导致事件在一段时间后被处理,直到几分钟。 负载不是很高,大约有200个事件,我们从中关心的只是其中的少数几个。

我们尝试了什么:

  • 最初,队列的预取设置为1 ,使用方为min最小为2且最大为5 ,我们删除了预取,并添加了更多使用方作为max并发设置,但是问题仍然存在,延迟只需要更长的时间呈现,但是几分钟后,处理开始大约需要20/30秒。

我们在日志中看到将事件发布到队列中,并且看到有延迟地将其从队列中移出的日志。 因此,中间没有任何代码在运行以生成此延迟。

据我们所知,其余队列似乎可以正确处理消息,但是正是这种情况陷入了阻塞模式。

我看到的错误如下,但我确定这是什么意思,以及是否相关:

Jun  4 11:16:04  server: [pool-3-thread-10] ERROR com.rabbitmq.client.impl.ForgivingExceptionHandler - Consumer org.springframework.amqp.rabbit.listener.BlockingQueueConsumer$InternalConsumer@70dfa413 (amq.ctag-VaWc-hv-VwcUPh9mTQTj7A) method handleDelivery for channel AMQChannel(amqp://agent@127.0.0.1:5672/,198) threw an exception for channel AMQChannel(amqp://agent@127.0.0.1:5672/,198)
Jun  4 11:16:04  server: java.io.IOException: Unknown consumerTag
Jun  4 11:16:04  server: at com.rabbitmq.client.impl.ChannelN.basicCancel(ChannelN.java:1266)
Jun  4 11:16:04  server: at sun.reflect.GeneratedMethodAccessor180.invoke(Unknown Source)
Jun  4 11:16:04  server: at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
Jun  4 11:16:04  server: at java.lang.reflect.Method.invoke(Method.java:498)
Jun  4 11:16:04  server: at org.springframework.amqp.rabbit.connection.CachingConnectionFactory$CachedChannelInvocationHandler.invoke(CachingConnectionFactory.java:955)
Jun  4 11:16:04  server: at com.sun.proxy.$Proxy119.basicCancel(Unknown Source)
Jun  4 11:16:04  server: at org.springframework.amqp.rabbit.listener.BlockingQueueConsumer$InternalConsumer.handleDelivery(BlockingQueueConsumer.java:846)
Jun  4 11:16:04  server: at com.rabbitmq.client.impl.ConsumerDispatcher$5.run(ConsumerDispatcher.java:149)
Jun  4 11:16:04  server: at com.rabbitmq.client.impl.ConsumerWorkService$WorkPoolRunnable.run(ConsumerWorkService.java:100)
Jun  4 11:16:04  server: at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1149)
Jun  4 11:16:04  server: at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:624)
Jun  4 11:16:04  server: at java.lang.Thread.run(Thread.java:748)

这是在应用程序关闭时发生的,但是我已经看到它在应用程序仍在运行时发生。

2018-06-05 13:22:45,443 ERROR CachingConnectionFactory$DefaultChannelCloseLogger - Channel shutdown: channel error; protocol method: #method<channel.close>(reply-code=406, reply-text=PRECONDITION_FAILED - unknown delivery tag 109, class-id=60, method-id=120)

我不确定如何解决这两个错误,也不确定它们是否相关。

这是我的Spring配置:

<!-- Queues -->
<rabbit:queue id="monitorIncomingEventsQueue" name="MonitorIncomingEventsQueue"/>
<rabbit:queue id="interestingEventsQueue" name="InterestingEventsQueue"/>
<rabbit:queue id="textCallsEventsQueue" name="TextCallsEventsQueue"/>
<rabbit:queue id="callDisconnectedEventQueue" name="CallDisconnectedEventQueue"/>
<rabbit:queue id="incomingCallEventQueue" name="IncomingCallEventQueue"/>
<rabbit:queue id="eventLoggingQueue" name="EventLoggingQueue"/>

<!-- listeners -->
<bean id="monitorListener" class="com.example.rabbitmq.listeners.monitorListener"/>
<bean id="interestingEventsListener" class="com.example.rabbitmq.listeners.InterestingEventsListener"/>
<bean id="textCallsEventListener" class="com.example.rabbitmq.listeners.TextCallsEventListener"/>
<bean id="callDisconnectedEventListener" class="com.example.rabbitmq.listeners.CallDisconnectedEventListener"/>
<bean id="incomingCallEventListener" class="com.example.rabbitmq.listeners.IncomingCallEventListener"/>
<bean id="eventLoggingEventListener" class="com.example.rabbitmq.listeners.EventLoggingListener"/>

<rabbit:listener-container connection-factory="connectionFactory" message-converter="defaultMessageConverter" concurrency="5" max-concurrency="40" acknowledge="none">
    <rabbit:listener queues="interestingEventsQueue" ref="interestingEventsListener" method="handleIncomingMessage"/>
</rabbit:listener-container>

<rabbit:listener-container connection-factory="connectionFactory" message-converter="defaultMessageConverter" concurrency="5" max-concurrency="20" acknowledge="none">
    <rabbit:listener queues="textCallsEventsQueue" ref="textCallsEventListener" method="handleIncomingMessage"/>
</rabbit:listener-container>

<rabbit:listener-container connection-factory="connectionFactory" message-converter="defaultMessageConverter" concurrency="5" max-concurrency="20" acknowledge="none">
    <rabbit:listener queues="callDisconnectedEventQueue" ref="callDisconnectedEventListener" method="handleIncomingMessage"/>
</rabbit:listener-container>

<rabbit:listener-container connection-factory="connectionFactory" message-converter="defaultMessageConverter" concurrency="5" max-concurrency="30" acknowledge="none">
    <rabbit:listener queues="incomingCallEventQueue" ref="incomingCallEventListener" method="handleIncomingMessage"/>
</rabbit:listener-container>

<rabbit:listener-container connection-factory="connectionFactory" message-converter="defaultMessageConverter" concurrency="1" max-concurrency="3" acknowledge="none">
    <rabbit:listener queues="monitorIncomingEventsQueue" ref="monitorListener" method="handleIncomingMessage"/>
</rabbit:listener-container>

<rabbit:listener-container connection-factory="connectionFactory" message-converter="defaultMessageConverter" concurrency="5" max-concurrency="10"  acknowledge="none">
    <rabbit:listener queues="EventLoggingQueue" ref="eventLoggingEventListener" method="handleLoggingEvent"/>
</rabbit:listener-container>

<rabbit:connection-factory id="connectionFactory" host="${host.name}" port="${port.number}" username="${user.name}" password="${user.password}" connection-timeout="20000"/>

我在这里阅读到,处理延迟可能是由网络问题引起的,但是在这种情况下,服务器和应用程序位于同一台VM上。 这是一个封闭的环境,因此大多数端口都没有打开,但是我怀疑那是错误的。

更多日志: https//pastebin.com/4QMFDT7A

感谢您的帮助,

谢谢,

我需要查看的日志远不止于此-这是吸烟枪:

Storing...Storing delivery for Consumer@a2ce092: tags=[{}]

(消费者) tags为空,这意味着该消费者当时已被取消(由于某种原因,应在日志中更早出现)。

如果有可能您可以使用1.7.9.BUILD-SNAPSHOT复制,我添加了一些TRACE级别的日志记录,这将有助于诊断。

编辑

回复您最近对Rabbitmq用户的评论...

您可以尝试使用固定并发吗? Spring AMQP容器中的可变并发通常不是很有用,因为通常只会在整个容器闲置一段时间后才会减少使用方。

但是,它可能可以解释为什么您看到消费者被取消了。

也许在这个逻辑中有一些竞赛条件。 使用固定数量的使用者(不指定最大...)将避免这种情况; 如果可以尝试,至少可以消除这种可能性。

就是说,我很困惑(我在您的Stack Overflow配置中没有注意到这一点); 设置为autoAck acknowledge="none" ,不应将任何ack发送给代理(NONE用于设置autoAck

String consumerTag = this.channel.basicConsume(queue, this.acknowledgeMode.isAutoAck(), ...

public boolean isAutoAck() {

    return this == NONE;

}

您是从代码中发送短信吗? 如果是这样,确认模式应为MANUAL。 我看不到容器将为无应答模式发送应答的情况。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM