hadoop - 使用水槽的kafka channel 中的动态主题

标签 hadoop flume flume-ng apache-kafka

是否有可能有一个带有动态主题的 kafka channel - 比如可以在其中指定主题 header 的 kafka 接收器,或者可以在其中使用 header 中的值的 HDFS 接收器?

我知道我可以多路复用以使用多个 channel (具有一堆 channel 配置),但这是不可取的,因为我希望有一个动态 HDFS 接收器,而不是每个 kafka channel 都有一个 HDFS 接收器。

最佳答案

我的理解是 Flume Kafka channel 只能映射到单个主题,因为它同时生成和使用该特定主题的日志。

查看 Flume 1.6.0 的 KafkaChannel.java 中的代码,我可以看到只有一个主题被订阅(每个线程有一个消费者)。

关于hadoop - 使用水槽的kafka channel 中的动态主题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/31364060/

相关文章:

java - 水槽配置java异常

logging - 任何生成高速日志的工具或实用程序

hadoop - Hadoop 2.7.2单节点群集示例失败

java - K-Means迭代处理输出/群集2失败

docker - spark-submit如何在群集模式下传递--driver-class-path?

hadoop - 编写水槽拦截器以从安慰中获取数据

hadoop - Flume 1.6.0 Agent 启动失败

hadoop - 编写 Flume 配置,将不断增长的文件上传到 HDFS

hadoop - agent.sources.tailSrc.command是什么意思?

Apache Hadoop 2.6 : Pseudo Distribution Mode Setup