NPE 使用嵌入式 Kafka 测试 Kafka Producer

Question

I've written a basic spring boot service that consumes some data via rest API and publishes it to rabbitmq and kafka.

为了测试处理 kafka 生产的服务 class，我遵循了本指南： https://www.baeldung.com/spring-boot-kafka-testing

单独来看，测试（KafkaMessagingServiceImplTest）在 intellij idea 和命令行上的 mvn 中都能完美运行。 在想法中运行所有项目测试工作正常。 但是，当我在命令行上通过 maven 运行所有项目测试时，此测试在尝试对有效负载字符串进行断言时失败并出现 NPE。

我已将根本问题的位置缩小到另一个测试 class (AppPropertiesTest)，该测试仅测试我的 AppProperties 组件（这是我用来以整洁的方式从 application.properties 中提取配置的组件）。 当且仅当该测试 class 中的测试与在项目根目录中使用“mvn clean install”的失败测试一起运行时，NPE 才会出现。 注释掉此 class 中的测试或使用 @DirtiesContext 对其进行注释可以解决问题。 显然，通过此测试 class 加载到 spring 上下文中的某些内容会导致其他测试中事件/倒计时的时间/顺序出现问题。 当然，我不想使用@DirtiesContext，因为随着项目复杂性的增加，它会导致构建速度变慢。 它也没有解释问题..我无法处理:)

AppPropertiesTest 使用构造函数注入来注入 AppProperties 组件。 它还扩展了一个抽象的 class 'GenericServiceTest'，其注释为：

@SpringBootTest
@TestConstructor(autowireMode = TestConstructor.AutowireMode.ALL) 

并且不包含任何其他内容。 您可能知道，SpringBootTest 注释在样板文件中构建了一个测试 spring 上下文和连线，以允许有效测试 spring 应用程序的依赖注入等，并且 TestConstructor 注释允许在我的一些测试中注入构造函数。 FWIW，我尝试删除 TestConstructor 注释并在 AppProperties class 中使用普通的旧自动装配来查看它是否有所作为，但它没有。

失败的测试 class 还扩展了 GenericServiceTest，因为它需要 spring 上下文来注入一些依赖项，例如消费者和正在测试的消息传递服务以及其中的 AppProperties 实例等。

所以我知道问题出在哪里，但我不知道问题是什么。 根据 Baeldung 指南，即使 NPE 测试失败，我也可以在日志中看到消费者在失败前成功使用了消息：

TestKafkaConsumer  : received payload='ConsumerRecord(topic = test-kafka-topic, partition = 0, leaderEpoch = 0, offset = 0, CreateTime = 1618997289238, serialized key size = -1, serialized value size = 43, headers = RecordHeaders(headers = [], isReadOnly = false), key = null, value = This is a test message to be sent to Kafka.)'

然而，当我们回到断言时，payLoad 是 null。 我在失败的测试中尝试了各种类似 Thread.sleep() 的方法来给它更多时间，并且我增加了 await() 超时但没有任何乐趣。

我觉得奇怪的是，测试在 IDEA 中和孤立的情况下都很好。 现在它开始让我有点发疯，我无法调试它，因为我的 IDE 中没有出现问题。

如果有人有任何想法，将不胜感激！

谢谢。

编辑：有人非常合理地建议我添加一些代码，所以这里是:)

失败的测试（在 assertTrue(payload.contains(testMessage)) 失败，因为 payLoad 为空）。 自动装配的 kafkaMessagingService 只需注入 AppProperties 和 KakfaTemplate 的依赖项并调用 kafkaTemplate.send()：

@EmbeddedKafka(partitions = 1, brokerProperties = { "listeners=PLAINTEXT://localhost:9092", "port=9092" })
class KafkaMessagingServiceImplTest extends GenericServiceTest {

    @Autowired
    @Qualifier("kafkaMessagingServiceImpl")
    private IMessagingService messagingService;
    @Autowired
    private TestKafkaConsumer kafkaConsumer;
    @Value("${app.topicName}")
    private String testTopic;

    @Test
    public void testSendAndConsumeKafkaMessage() throws InterruptedException {
        String testMessage = "This is a test message to be sent to Kafka.";
        messagingService.sendMessage(testMessage);
        kafkaConsumer.getLatch().await(2000, TimeUnit.MILLISECONDS);
        String payload = kafkaConsumer.getPayload();
        assertTrue(payload.contains(testMessage));
    }

TestConsumer（用于在上面的测试中消费）

@Component
public class TestKafkaConsumer {
    private static final Logger LOGGER = LoggerFactory.getLogger(TestKafkaConsumer.class);

    private CountDownLatch latch = new CountDownLatch(1);
    private String payload = null;

    @KafkaListener(topics = "${app.topicName}")
    public void receive(ConsumerRecord<?, ?> consumerRecord) {
        LOGGER.info("received payload='{}'", consumerRecord.toString());
        setPayload(consumerRecord.toString());

        latch.countDown();
    }

    public CountDownLatch getLatch() {
        return latch;
    }

    public String getPayload() {
        return payload;
    }

    public void setPayload(String payload) {
        this.payload = payload;
    }

项目依赖：

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-amqp</artifactId>
            <version>2.2.2.RELEASE</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.kafka</groupId>
            <artifactId>spring-kafka</artifactId>
            <version>2.5.8.RELEASE</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-configuration-processor</artifactId>
            <optional>true</optional>
        </dependency>
        <!-- https://mvnrepository.com/artifact/org.mockito/mockito-all -->
        <dependency>
            <groupId>org.mockito</groupId>
            <artifactId>mockito-all</artifactId>
            <version>1.10.19</version>
            <scope>test</scope>
        </dependency>
        <!-- https://mvnrepository.com/artifact/org.springframework.kafka/spring-kafka-test -->
        <dependency>
            <groupId>org.springframework.kafka</groupId>
            <artifactId>spring-kafka-test</artifactId>
            <version>2.5.6.RELEASE</version>
            <scope>test</scope>
        </dependency>

    </dependencies>
    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.cloud</groupId>
                <artifactId>spring-cloud-dependencies</artifactId>
                <version>${spring-cloud.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>

AppPropertiesTest class （其中的上下文似乎导致了问题）

class AppPropertiesTest extends GenericServiceTest {

    private final AppProperties appProperties;

    public AppPropertiesTest(AppProperties appProperties) {
        this.appProperties = appProperties;
    }

    @Test
    public void testAppPropertiesGetQueueName() {
        String expected = "test-queue";
        String result = appProperties.getRabbitMQQueueName();
        assertEquals(expected, result);
    }

    @Test
    public void testAppPropertiesGetDurableQueue() {
        boolean isDurableQueue = appProperties.isDurableQueue();
        assertTrue(isDurableQueue);
    }
}

AppPropertiesTest class 正在测试的 AppProperties class：

@Component
@ConfigurationProperties("app")
public class AppProperties {

    // a whole bunch of properties by name that are prefixed by app. in the application.properties file. Nothing else
}

两个测试都扩展的通用服务测试 class。

@SpringBootTest
@TestConstructor(autowireMode = TestConstructor.AutowireMode.ALL)
public abstract class GenericServiceTest {

}

失败（您可以在上面的行中看到有效负载已被接收并打印出来）。

2021-04-21 14:15:07.113  INFO 493384 --- [ntainer#0-0-C-1] service.TestKafkaConsumer  : received payload='ConsumerRecord(topic = test-kafka-topic, partition = 0, leaderEpoch = 0, offset = 0, CreateTime = 1619010907076, serialized key size = -1, serialized value size = 43, headers = RecordHeaders(headers = [], isReadOnly = false), key = null, value = This is a test message to be sent to Kafka.)'
[ERROR] Tests run: 1, Failures: 0, Errors: 1, Skipped: 0, Time elapsed: 3.791 s <<< FAILURE! - in 
service.KafkaMessagingServiceImplTest
[ERROR] testSendAndConsumeKafkaMessage  Time elapsed: 2.044 s  <<< ERROR!
java.lang.NullPointerException
    at service.KafkaMessagingServiceImplTest.testSendAndConsumeKafkaMessage(KafkaMessagingServiceImplTest.java:42)

Answer 1

问题是TestListener是一个@Component所以它被添加了两次 - 记录将转到另一个实例。

我添加了更多调试以验证在不同实例上调用 getter。

@Component
public class TestKafkaConsumer {

    private static final Logger LOGGER = LoggerFactory.getLogger(TestKafkaConsumer.class);

    private final CountDownLatch latch = new CountDownLatch(1);
    private String payload = null;


    @KafkaListener(id = "myListener", topics = "${app.kafkaTopicName}")
    public void receive(ConsumerRecord<?, ?> consumerRecord) {
        LOGGER.info("received payload='{}'", consumerRecord.toString());
        setPayload(consumerRecord.toString());

        if (payload != null) {
            LOGGER.info(this + ": payload is not null still");
        }

        latch.countDown();

        if (payload != null) {
            LOGGER.info(this + ": payload is not null after latch countdown");
        }
    }

    public CountDownLatch getLatch() {
        return latch;
    }

    public String getPayload() {
        LOGGER.info(this + ": getting Payload");
        return payload;
    }

    public void setPayload(String payload) {
        this.payload = payload;
    }
}

如果您不想使用@DirtiesContext ，您至少可以在测试完成后停止侦听器容器：

@SpringBootTest
@TestConstructor(autowireMode = TestConstructor.AutowireMode.ALL)
public abstract class GenericDataServiceTest {

    @AfterAll
    static void stopContainers(@Autowired KafkaListenerEndpointRegistry registry) {
        registry.stop();
    }

}

[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------