java - Spring Cloud 流卡夫卡流DLQ

Question

我正在将 Apache Kafka 2.7.0 与 Spring Cloud Stream Kafka Streams 结合使用。

在我的 Spring Cloud Stream (Kafka Streams) 应用程序中，我已将 application.yml 配置为在输入主题中的消息出现反序列化错误时使用 sendToDlq 机制:

spring:
  cloud:
    stream:
      function:
        definition: processor      
      bindings:         
        processor-in-0:
          destination: input-topic
          consumer:
            dlqName: input-topic-dlq
        processor-out-0:
          destination: output-topic       
      kafka:
        streams:
            binder:
              deserialization-exception-handler: sendToDlq
            configuration:
              metrics.recording.level: DEBUG
            brokers:
              - localhost:9092

我启动我的应用程序，但没有看到此主题存在。文档指出，如果不存在，将创建 DLQ 主题。

如果我尝试从 DLQ 主题进行消费，则会收到如下错误:

kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic input-topic-dlq --property print.value=true --property print.key=true --from-beginning
[2021-03-19 10:17:09,936] WARN [Consumer clientId=consumer-console-consumer-85295-1, groupId=console-consumer-85295] Error while fetching metadata with correlation id 2 : {input-topic-dlq=LEADER_NOT_AVAILABLE} (org.apache.kafka.clients.NetworkClient)

此时，当我查询 Zookeeper ls/brokers/topics 时，我会看到已创建的主题。

现在，我尝试将非 JSON 消息发布到输入主题(我的默认反序列化器是 JSON)。

但是我在创建的 input-topic-dlq 主题中看不到任何消息。

奇怪的是我可以在默认的“error.input-topic-dlq.appId”主题中看到消息。

我在这里做错了什么吗？

Answer 1

我设法弄清楚了。 Spring Cloud Stream Kafka Streams Binder 的当前文档中似乎存在拼写错误。

绑定(bind)的目标应该在 spring.cloud.streams.bindings 级别，就像您已经拥有的一样，但特定于实现的消费者属性应该在 spring.cloud.streams.kafka.streams 上.绑定(bind)级别。

所以你的配置应该如下所示:

spring:
  cloud:
    stream:
      function:
        definition: processor      
      bindings:         
        processor-in-0:
          destination: input-topic
        processor-out-0:
          destination: output-topic       
      kafka:
        streams:
            binder:
              deserialization-exception-handler: sendToDlq
            bindings:
              processor-in-0:
                consumer:
                  dlqName: input-topic-dlq
            configuration:
              metrics.recording.level: DEBUG
            brokers:
              - localhost:9092