windows - rhdfs没有建立连接

标签 windows r hadoop cygwin rhadoop

我已经设置了 HADOOP_CMD (hadoop路径)变量,但是它没有采用该路径,因为未找到

library("rhdfs")
hdfs.init()
Sys.setenv(HADOOP_CMD="C:/cygwin64/usr/local/hadoop/bin/hadoop") 
Error in system(command, intern = TRUE) : 
'C:/cygwin64/usr/local/hadoop/bin/hadoop' not found

我也已经在系统环境变量以及cygwin中定义了HADOOP_CMD
export HADOOP_CMD="C:/cygwin64/usr/local/hadoop/bin/hadoop"

我在哪里错了,对此方向的任何帮助,谢谢。

最佳答案

在调用HADOOP_HOME之前,应在R session 中设置HADOOP_CMDhdfs.init()
还记得在盯着RHadoop之前遵循检查点

  • R-Hadoop依赖项
  • rmr2 -RCpp, RJSONIO, digest, functional, stringr, plyr
  • rhdfs -rJava
  • 在运行init()之前在R session 中导出环境变量
    # requied
    Sys.setenv(HADOOP_HOME="/home/trendwise/apache/hadoop-1.0.4"); Sys.setenv(HADOOP_CMD="/home/trendwise/apache/hadoop-1.0.4/bin/hadoop"); Sys.setenv(HADOOP_STREAMING='/home/trendwise/apache/hadoop-1.0.4/contrib/streaming/hadoop-streaming-1.0.4.jar')
    #optional
    Sys.setenv(HADOOP_BIN="/home/trendwise/apache/hadoop-1.0.4/bin"); Sys.setenv(HADOOP_CONF_DIR="/home/trendwise/apache/hadoop-1.0.4/conf"); Sys.setenv(HIVE_HOME="/home/trendwise/apache/hive-0.10.0"); Sys.setenv(HBASE_HOME="/home/trendwise/apache/hbase-0.94.3");
    # Library Path Sys.setenv(LD_LIBRARY_PATH="/lib:/lib/x86_64-linux-gnu:/lib64:/usr/lib:/usr/lib64:/usr/local/lib:/usr/local/lib64:/usr/lib/jvm/jdk1.7.0_10/lib:/usr/lib/jvm/jdk1.7.0_10/jre/lib:/usr/lib/jvm/jdk1.7.0_10/jre/lib/amd64:/usr/lib/jvm/jdk1.7.0_10/jre/lib/amd64/server"); # Loading library
    library(rmr2)
    library(rhdfs)
    # initializing
    hdfs.init()
  • 关于windows - rhdfs没有建立连接,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19116610/

    相关文章:

    c++ - BITMAPINFO 结构的 bmiColors 字段

    c++ - 具有完整 C++11 支持的 Windows C++ 编译器(应该与 Qt 一起使用)

    R:如何使 switch 语句失效

    java - hadoop mapreduce 流中的多个文件输出

    windows - 如何从vbs以管理员身份运行vbs?

    c# - 自定义多因素 Active Directory 身份验证

    r - 为多个向量分配相同的长度

    r - 自动使用 LRT 评估整个因子变量的显着性

    hadoop - HDFS复制因子

    hadoop - 以编程方式检索特定作业的 tasktracker 日志