java - 如何从java应用程序订阅apache kafka中的主题？

Question

这是 apache kafka 的使用者，它没有从主题“test”获取消息

package com.kafka;

import java.util.Arrays;
import java.util.Properties;

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;

public class ConsumerTest {

  public static void main(String[] args) {
     Properties props = new Properties();
     props.put("bootstrap.servers", "172.17.210.45:9092");
     props.put("zookeeper.connect", "172.17.210.45:2181");
     props.put("group.id", "test-consumer-group");
     props.put("enable.auto.commit", "true");
     props.put("auto.commit.interval.ms", "1000");
     props.put("auto.offset.reset", "earliest");
     props.put("session.timeout.ms", "30000");
     props.put("key.deserializer",  "org.apache.kafka.common.serialization.StringDeserializer");
     props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");

     KafkaConsumer<String, String> kafkaConsumer = new KafkaConsumer<>(props);
     System.out.println("properties loaded");
     kafkaConsumer.subscribe(Arrays.asList("test"));

     while (true) {
         ConsumerRecords<String, String> records = kafkaConsumer.poll(100);
         for (ConsumerRecord<String, String> record : records) {
           System.out.printf("offset = %d, value = %s", record.offset(), record.value());
           System.out.println();
         }
     }

  }
}

在此结果中，我没有从 apache kafka 收到任何消息。

     log4j:WARN No appenders could be found for logger                                                                                                                (org.apach  e.kafka.clients.consumer.ConsumerConfig).
     log4j:WARN Please initialize the log4j system properly.
properties loaded

Answer 1

您的代码似乎是正确的。我建议控制 ip 172.17.210.45 是否可达。

ping 172.17.210.45

和

telnet 172.17.210.45 9092
telnet 172.17.210.45 2181

检查服务器上现有的主题

bin/kafka-topics.sh --list --zookeeper 172.17.210.45:2181

然后您可以尝试将您的消费者移至开头(必须在 kafkaConsumer.subscribe 之后添加此行:

kafkaConsumer.seekToBeginning(Collections.emptyList());

最后，我建议在 kafkaConsumer.poll(100) 之后的无限循环中添加几行 System.out.println(records.size) 行。只是为了看看是否挂起等待记录或其他什么。

更新

如果生产者部分有一个或多个group.id，则应该在消费者部分使用其中之一。