hadoop - 如何以破坏Flume中的目录路径的方式访问远程主机中的文件夹

标签 hadoop logging hdfs flume flume-ng

这是我的FlumeHadoop.conf文件。

a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
a1.sources.r1.type = spooldir
a1.sources.r1.channels = c1
a1.sources.r1.spoolDir = /home/rabindra/idirectory 
a1.sources.r1.basenameHeader=true

# Use a channel which buffers events in memory
a1.channels.c1.type = memory

a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 1000
a1.channels.c1.byteCapacityBufferPercentage = 20
a1.channels.c1.byteCapacity = 131072000

a1.sinks.k1.channel = c1


# properties of k1-sink
a1.sinks.k1.type = hdfs
#a1.sinks.k1.hdfs.path = hdfs://namenode/flumesource/source1
a1.sinks.k1.hdfs.path = hdfs://localhost/logdata
a1.sinks.k1.hdfs.filePrefix=%{basename}
a1.sinks.k1.hdfs.fileSuffix=.txt
a1.sinks.k1.rollInterval=0
a1.sinks.k1.hdfs.deletePolicy=immediate
a1.sinks.k1.hdfs.rollSize=131072000
a1.sinks.k1.hdfs.rollCount=0
a1.sinks.k1.hdfs.idleTimeout=0
a1.sinks.k1.hdfs.maxOpenFiles = 10000

在远程主机中说192.168.7.43,其中有一个目录 r目录和目录路径 / home / alex / rdirectory

我想将远程文件夹 rdirectory 指向破坏目录。
怎么可能?
我通过这种变化尝试
a1.sources.r1.spoolDir = alex@192.168.7.43:/home/alex/rdirectory   

但这给出了java.lang.IllegalStateException异常:目录不存在:/opt/flume/alex@192.168.7.43:/home/alex/rdirectory。

最佳答案

您是否尝试运行此选项

  • 在192.168.7.4中运行水槽代理
    假脱机目录[源代码]-> netcat [接收器]
  • 在本地计算机上运行水槽代理
    netcat [源代码]-> HDFS接收器
  • 关于hadoop - 如何以破坏Flume中的目录路径的方式访问远程主机中的文件夹,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35127987/

    相关文章:

    c++ - 在记录错误时取消引用 ptr 是错误的设计吗?

    logging - Heroku Redis 日志很嘈杂——如何过滤掉它们?

    python - 登录 Flask 微服务内部

    hadoop - Spark流式传输:java.io.FileNotFoundException:文件不存在:<input_filename> ._ COPYING_

    hadoop - hadoop2.7.1单机多datanode

    hadoop - 使用 Java 运行 EmbeddedPig 时,Pig 脚本中的 ORDER BY 作业失败

    hadoop - 如何查看一个列的多个版本 - HBASE HIVE Integration

    tomcat - 无法通过 ubuntu 从 Tomcat6 中的 Web 应用程序将 MR 作业提交到本地设置

    java - Hadoop。具有统计信息的字数统计

    c# - 如何使用C#验证WebHDFS