hadoop - HDInsight 上的 HCatalog 通知

标签 hadoop hive activemq azure-hdinsight hcatalog

我正在尝试在 HDInsight 群集上启用 HCatalog 通知,以便跟踪元数据更改。

我的两个头节点上都有一个 ActiveMQ 代理。它正在工作,因为我已经能够订阅它并接收我发送给自己的通知。我尝试通过 Ambari UI 更改 hive-site.xml 的配置来启用 HCatalog 通知(我在 hive.metastore.event.listeners 字段中添加了 org.apache.hive.hcatalog.listener.NotificationListener )但那没有t给出任何结果。我还通过 SSH 连接到我的 HDInsight 群集的头节点,并通过添加我尝试通过 Ambari 和事件不起作用的属性手动更改 hive-site.xml 文件中的配置(显然其中有很多) .每次配置更改后,我都通过 Ambari UI 重新启动了 hive(甚至所有)服务。我的猜测是,出于某种原因,我所做的更改没有被应用。

对此有何经验或建议?

最佳答案

我设法通过执行以下操作来激活自定义通知监听器:

  • 封装实现的类元存储事件监听器 接口(interface)到 jar
  • 将 jar 放入每个头节点上的 hive-server 的 lib 文件夹中
  • 在 Ambari UI 中,转到 Hive => Configs => Advanced => Custom hive-site并添加属性:
    hive.metastore.event.listeners=[full_class_name_including_package]
  • 保存配置(如果出现警告,请单击继续)
  • 出现提示时重新启动所有受影响的服务。

  • 完成这些步骤后,元存储在每个 DDL 之后调用我的通知监听器。操作,我能够跟踪所有元数据更改。

    关于hadoop - HDInsight 上的 HCatalog 通知,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49923088/

    相关文章:

    mysql - Sqoop导入mysql到hive,数据不正确

    java - 将 log4j JMSAppender 与 ActiveMQ 一起使用 - 调试级别中的有线格式超时(客户端)

    java - 如何在ActiveMQ中抑制排序?

    mysql - 如何解决activeMQ msyql cluster get Attempting to acquire the Exclusive Lock错误?

    hadoop - 使用列表数据类型将数据从Pig插入Cassandra失败

    sql - 斯卡拉 : Spark sqlContext query

    hadoop - Hive:从大表创建小表

    hadoop - 如何使用INSERT INTO tblnm VALUES(value1,value2…)将数据插入配置单元中的表

    django - 色调安装问题

    hadoop - 如何在Mapreduce中编写伪代码?