java - 如何将主题的所有记录存储在单个文件中?

标签 java apache-kafka

如何存储kafka主题的所有信息以及文件中的所有记录详细信息。

a) 我可以在单个文件中获取 KafkaTopic 的所有记录吗?

b) kafka 上的主题详细信息在哪里?

最佳答案

a) 您可以尝试将所有主题消息提取到一个文件中

kafka-console-consumer --bootstrap-server localhost:9092 --topic <TOPIC> --from-beginning > singlefile.txt

您还可以添加 --property print.key=true 以包含消息 key

您可以使用文件输出将数据生成到kafka中。

b) 您可以使用此命令获取主题分区、配置和同步状态

kafka-topics --describe --zookeeper localhost:2181 --topic <TOPIC>

您可以使用此命令获取主题设置

kafka-configs --zookeeper localhost:2181 --describe --entity-type topics --entity-name <TOPIC>

您可以在每个命令上使用 add 并将它们导出到文件系统。

> simplefile.txt

关于java - 如何将主题的所有记录存储在单个文件中?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52217542/

相关文章:

java - 使用java api创建Kafka主题,无需zookeeper

java - Spark Streaming作业如何在Kafka主题上发送数据并将其保存在Elastic中

java - PostgreSQL 上的 SQL 注入(inject)

java - Hibernate 生成的 SQL 错误

java - 什么是NullPointerException,我该如何解决?

apache-kafka - kafka 0.8.2.0 的默认序列化程序

apache-spark - 无法在kafka direct stream、Spark streaming中手动提交offset

java - Drools 运行时错误

javascript - 如何向上滚动到一个元素并单击 Selenium ?

apache-spark - Spark : commit kafka offsets on end of batch