apache-kafka - 在 KAFKA 中消费后删除消息

标签 apache-kafka kafka-consumer-api

我正在使用 apache kafka 生成和使用大小为 5GB 的文件。我想知道是否有办法在消费后自动删除来自主题的消息。我有什么方法可以跟踪消费的消息吗?我不想手动删除它。

最佳答案

在 Kafka 中,被消费的东西的责任就是消费者的责任,这也是 Kafka 具有如此大的横向扩展性的主要原因之一。

使用高级消费者 API 将通过在 Zookeeper 中提交消耗的偏移量来自动为您执行此操作(或者一个特殊的 Kafka 主题使用更新的配置选项来跟踪消耗的消息)。

简单的消费者 API 使您可以自己处理如何以及在何处跟踪消费的消息。

Kafka 中的消息清除是通过为主题指定保留时间或为其定义磁盘配额自动完成的,因此对于一个 5GB 文件的情况,该文件将在您定义的保留期过后被删除,无论如果它已经被消耗了。

关于apache-kafka - 在 KAFKA 中消费后删除消息,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28586008/

相关文章:

apache-kafka - 错误 : Invalid value "sasl_ssl" for configuration property "security.protocol"

apache-kafka - 如何在 Kafka Sink Connector 中手动提交偏移量

apache-kafka - Kafka 一次性生产者消费者

java - 一个消费者从两个不同集群上的两个不同主题消费

c# - 如何在 dot net 的融合 kafka 中使消费方法成为非阻塞

apache-kafka - 更改 Debezium 连接器使用的主题名称

java - 为什么我只能看到这个 Kafka 示例中的所有其他消息?

java - 永远运行kafka消费者(新消费者API)

apache-kafka - 获取 Kafka 主题的最后修改日期

apache-kafka - Apache Kafka 中的分区数与生产者吞吐量