MySQL Kafka ELK 堆栈日期问题

标签 mysql elasticsearch elastic-stack apache-kafka-connect

我正在创建数据摄取:

MySQL --> Kafka --> Logstash --> Elasticsearch --> Kibana

我能够将数据从 MySQL 传输到 Kibana,但在处理 MySQL 表中的“日期”列时遇到问题。

日期列在 Kafka 主题和 ES 文档中显示为 EPOCH 日期。

我们可以在 Elasticsearch/Logstash 部分将其转换为日期格式“yyyy-mm-dd”吗?

最佳答案

要直接回答您的问题:使用 Elasticsearch 动态模板将日期字段定义为 date,然后 Elasticsearch 将正确解释纪元值。

您知道您根本不需要 Logstash 吗?您可以仅使用 Kafka Connect 的 Elasticsearch 接收器。你可以得到这个separately ,或作为 Confluent Platform 的一部分.

您会想要关注我在这里写的这个博客系列,它构建了这个管道(MySQL -> Kafka -> Elasticsearch):https://www.confluent.io/blog/simplest-useful-kafka-connect-data-pipeline-world-thereabouts-part-1/

关于MySQL Kafka ELK 堆栈日期问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45684084/

相关文章:

mysql - Ubuntu mysql 不工作

php - Laravel - 将 HTML Dom-Parser 响应保存到数据库

java - elasticsearch插件和elasticsearch模块有什么区别?

elasticsearch - 如何使用if-else条件进行 Elasticsearch ,根据输出部分中logstash conf中的名称过滤kafka主题

mysql - 如何将 Scala StaticQuery SELECT 查询的结果直接发送到 JSON 对象

php - mysql sum 函数没有给出结果

java - hibernate 搜索: Cannot do a wild card search on a dynamically mapped field text fields

javascript - 如何使用 Typescript 映射进行 ElasticSearch 响应?

java - Elasticsearch(6.5) 高级 Java Rest 客户端按名称删除索引不起作用

json - 在 Logstash 中解析 JSON 对象数组