hadoop - 如何找出CDH kerburised群集中特定kafka主题的最大偏移值

标签 hadoop apache-kafka kerberos offset cloudera-cdh

我有一个使用Kerberos的41个节点的CDH群集,其中28个已安装Kafka。

我想找出特定Kafka主题的最大偏移值。

我正在使用以下命令,但是它不起作用。
(注意:使用kafka-run-class.sh的选项不适用于CDH)

./kafka-consumer-groups.sh  \ 
--command-config /home/username/client.properties \
--group examplehost1:9092,examplehost2:9092,<many more>, examplehost41:9092 \
--topic roc-parse-7485 \
--zookeeper examplezookeperhost1:2181,examplezookeperhost2:2181,examplezookeperhost3:2181

最佳答案

您的问题可能是因为您在group参数中配置了代理。 --group应该是您要跟踪的组名。

不过,您可以使用GetOffsetShell-它为您提供每个主题分区的最新偏移量。
您可以在这里找到更多信息:GetOffsetShell
您应该这样使用它:

bin/kafka-run-class.sh kafka.tools.GetOffsetShell  --broker-list BROKER_LISTS --partitions 
 PARTITIONS_LIST --topic TOPIC_NAME

在您的情况下:
bin/kafka-run-class.sh kafka.tools.GetOffsetShell  --broker-list rahdpapp00.tt-tim.tr:9092,rahdpapp01.tt-tim.tr:9092,rahdpapp02.tt-tim.tr:9092,rahdpapp03.tt-tim.tr:9092,rahdpapp04.tt-tim.tr:9092,rahdpapp05.tt-tim.tr:9092,rahdpapp06.tt-tim.tr:9092,rahdpapp07.tt-tim.tr:9092,rahdpdtp00.tt-tim.tr:9092,rahdpdtp01.tt-tim.tr:9092,rahdpdtp02.tt-tim.tr:9092,rahdpdtp03.tt-tim.tr:9092,rahdpdtp04.tt-tim.tr:9092,rahdpdtp05.tt-tim.tr:9092,rahdpdtp06.tt-tim.tr:9092,rahdpdtp07.tt-tim.tr:9092,rahdpdtp08.tt-tim.tr:9092,rahdpdtp09.tt-tim.tr:9092,rahdpdtp10.tt-tim.tr:9092,rahdpdtp11.tt-tim.tr:9092,rahdpdtp12.tt-tim.tr:9092,rahdpdtp13.tt-tim.tr:9092,rahdpmp00.tt-tim.tr:9092,rahdpmp01.tt-tim.tr:9092,rahdpmp02.tt-tim.tr:9092,rahdppmp00.tt-tim.tr:9092,rahdppmp01.tt-tim.tr:9092, rahdppmp02.tt-tim.tr:9092
 --partitions 2,1,0 --topic roc-parse-7485

关于hadoop - 如何找出CDH kerburised群集中特定kafka主题的最大偏移值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/61237850/

相关文章:

maven - 使用Maven安装Whirr时出错

apache-kafka - 尝试连接到 Kafka 时出现 No Brokers Available 错误

apache-kafka - 如何仅在窗口完成时输出窗口聚合的结果?

powershell - 设置 kerberos 约束委派 powershell

python - 安排 pyspark 笔记本

hadoop - 无法从Ambari移除死主机

java - 使用 java 的 Kerberos 身份验证在外部网络上超时

kerberos - 关于Kerberos的一些简单问题

hadoop - 名称节点上的 jps 命令显示辅助名称节点

java - 卡夫卡流-按值属性分组?