hadoop - Nifi 错误 : Failed to establish the connection with AMQP broker

标签 hadoop amqp apache-nifi

我正在尝试从以下 cap 文件中读取数据。
警报文件夹中的所有内容

http://dd2.weather.gc.ca/alerts/cap/20180205/CWHX/14/



我正在使用来自 http://metpx.sourceforge.net 的 AMQP .当我尝试从 nifi 连接到订阅者时,我收到以下错误。

Failed to establish the connection with AMQP broker



这是我的 cap.conf 文件。
broker amqp://anonymous:anonymous@dd.weather.gc.ca
directory /data
subtopic alerts.cap.#
accept .*
mirror True

最佳答案

  • 整个夏天,代理迁移到 SSL,因此当前 URL 为:amqps://anonymous:anonymous@dd.weather.gc.ca
  • 网页也移至:https://github.com/MetPX/sarracenia
  • 将身份验证信息放入 ~/.config/sarra/credentials.conf 的最佳实践
    一行如:amqps://anonymous:anonymous@dd.weather.gc.ca
  • 安装过去一年的版本可能需要很多
    更好的体验。它现在带有示例配置,
    其中之一是 ddc_cap-xml.conf 与您的数据相同
    正在尝试下载。

  • 所以工作是:
    blacklab% sr_subscribe add ddc_cap-xml.conf
    blacklab% sr_subscribe edit ddc_cap-xml.conf
    # Change the directory option to suit your case.
    blacklab% sr_subscribe foreground ddc_cap-xml.conf
    

    它应该工作。证明这一点可能需要很多小时,因为这个特定的集合(通用警报协议(protocol)格式的恶劣天气警告)仅在需要时才产生,而不是连续产生。 (使用 start 而不是 foreground 作为后台守护程序运行。)

    要进行测试,从 dd_swob 开始可能会更容易,这将是一个连续的提要。
    blacklab% sr_subscribe list dd_swob
    
    broker amqp://anonymous@dd.weather.gc.ca
    exchange xpublic
    
    #msg_skip_threshold 60
    #on_msg ../msg_skip_old.py
    subtopic observations.swob-ml.#
    
    accept .*
    

    在此配置中,您需要在接受行之前添加一个目录选项。并且应该立即开始下载数据。一旦你知道它有效,就切换回你真正想要的数据集。

    关于hadoop - Nifi 错误 : Failed to establish the connection with AMQP broker,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48629664/

    相关文章:

    hadoop - 包含fork节点的Oozie Subworkflow挂起

    hadoop - Ambari主机注册中止

    python - 如何使用 Pika 发送和接收 RabbitMQ 消息?

    queue - RabbitMQ AMQP队列设计

    apache-nifi - 在NIFI中如何在没有CSV header 的情况下从CSV转换为JSON

    hadoop - 使用单个分析命令计算所有分区的配置单元表统计信息的任何方法?

    hadoop - Ubuntu 16.04上的Hadoop 2.8.1-资源管理器在NameNode上崩溃

    spring-integration - 使用 Spring Integration 和 AMQP,我可以创建竞争消费者的 Pub-Sub 组吗?

    regex - NiFi : ReplaceTextWithMapping processor

    apache-nifi - Apache 尼菲 : Using HandleHTTPRequest and GetFile in the same flow