macos - OSX - 无法将文件从本地文件系统复制到 hdfs

标签 macos hadoop

我正在尝试将文件从本地文件系统复制到 HDFS,它抛出了一个错误,指出该文件只能复制到 0 个节点,而不是 1 个。

ckharide-mac:bin hadoop$ ./hadoop dfs -copyFromLocal /tmp/wcinput /user/hadoop/app/input
13/10/01 13:25:05 WARN hdfs.DFSClient: DataStreamer Exception: org.apache.hadoop.ipc.RemoteException: java.io.IOException: File /user/hadoop/app/input/LICENSE.txt could only be replicated to 0 nodes, instead of 1
    at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1920)
    at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:783)
    at sun.reflect.GeneratedMethodAccessor6.invoke(Unknown Source)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
    at java.lang.reflect.Method.invoke(Method.java:597)
    at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:587)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1432)
    at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1428)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:396)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1190)
    at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1426)

虽然我能够创建目录,但是文件复制不起作用。我已经尝试重新格式化名称节点并停止/启动 hadoop 服务,问题仍然存在。

如有任何帮助,我们将不胜感激。

最佳答案

您可以做的一些事情:

  • 重新格式化:$HADOOP_HOME/bin/hadoop namenode -format
  • 检查系统偏好设置->共享->远程登录激活了吗?
  • 重启 hadoop $HADOOP_HOME/bin/stop-all.sh 然后 $HADOOP_HOME/bin/start-all.sh

前几天我在我的 Mac 上遇到了同样的问题,上面的步骤至少帮助了我......

关于macos - OSX - 无法将文件从本地文件系统复制到 hdfs,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19110972/

相关文章:

Docker 容器内的 MySQL 服务无法在 macOS Sierra 10.12.6 中运行

javascript - 在 OS X JavaScript for Automation (JXA) 中附加事件监听器

ios - Xcode 痛苦,语法高亮损坏

c++ - Mac OS OpenGL - CPU 使用问题

hadoop - HDFS如何计算可用 block ?

macos - 如何查找 OSX 上的进程加载了哪个共享库?

hadoop - 从 PIG 包中提取元组

hadoop - 我可以将API与STORM或KAFKA连接

hadoop - Cassandra 和 Couchbase 之间此用例的潜在权衡

hadoop - 将流利的时间包括到json帖子数据中