scala - Akka.Kafka - 警告消息 - 恢复分区

标签 scala akka apache-kafka kafka-consumer-api akka-stream

在恢复所有主题的分区时,我不断收到调试消息。像下面。此消息每毫秒在我的服务器上连续打印一次。

08:44:34.850 [default-akka.kafka.default-dispatcher-10] DEBUG o.a.k.clients.consumer.KafkaConsumer - Resuming partition test222-7
08:44:34.850 [default-akka.kafka.default-dispatcher-10] DEBUG o.a.k.clients.consumer.KafkaConsumer - Resuming partition test222-6
08:44:34.850 [default-akka.kafka.default-dispatcher-10] DEBUG o.a.k.clients.consumer.KafkaConsumer - Resuming partition test222-9
08:44:34.850 [default-akka.kafka.default-dispatcher-10] DEBUG o.a.k.clients.consumer.KafkaConsumer - Resuming partition test222-8

这个
这是代码
val zookeeperHost = "localhost"
val zookeeperPort = "9092"
// Kafka queue settings
 val consumerSettings = ConsumerSettings(system, new ByteArrayDeserializer, new StringDeserializer)
       .withBootstrapServers(zookeeperHost + ":" + zookeeperPort)
       .withGroupId((groupName))
       .withProperty(ConsumerConfig.AUTO_OFFSET_RESET_CONFIG, "latest")

 // Streaming the Messages from Kafka queue
 Consumer.committableSource(consumerSettings, Subscriptions.topics(topicName))
     .map(msg => {
       consumed(msg.record.value)
     })
     .runWith(Sink.ignore)

请帮助正确进行分区以停止 DEBUG 消息。

最佳答案

好像是reactive-kafka code在开始获取之前恢复每个分区:

consumer.assignment().asScala.foreach { tp =>
  if (partitionsToFetch.contains(tp)) consumer.resume(java.util.Collections.singleton(tp))
  else consumer.pause(java.util.Collections.singleton(tp))
}
def tryPoll{...}
checkNoResult(tryPoll(0))

如果分区之前没有暂停,KafkaConsumer.resume 方法是无操作的。

关于scala - Akka.Kafka - 警告消息 - 恢复分区,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/41019323/

相关文章:

scala - 获取特定列的不同值以及不同列的最大值

scala - 如何在 Scala/Play 中创建 JSON 对象

scala - 执行上下文和调度程序 - 最佳实践、有用的配置和文档

Scala Akka Actors act() 函数

apache-kafka - 了解 Kafka poll()、flush() 和 commit()

scala - 来自kafka的spark Streaming如何指定轮询事件的截止时间

apache-kafka - Confluent.Kafka.KafkaException : Broker: Specified group generation id is not valid

scala - 如何将“丰富我的图书馆”模式应用于Scala集合?

java - Scala 正则表达式堆栈溢出

最新版本似乎不支持Akka STM