Java 提示 Hadoop native 库

标签 java hadoop

在我的 Ubuntu x32、Java x32、Hadoop 2.5.0 上我执行:

hduser@master:~$ hdfs dfs -ls /
14/08/19 08:51:21 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
Found 3 items
drwxr-xr-x   - hduser supergroup          0 2014-08-19 08:37 /data
drwxr-xr-x   - hduser supergroup          0 2014-08-19 08:37 /export
drwxrwx---   - hduser supergroup          0 2014-08-19 08:32 /tmp

谁能告诉我如何修复警告?

Java 版本:

hduser@master:~$ java -d64 -version
Error: This Java instance does not support a 64-bit JVM. Please install the desired version.

hduser@master:~$ java -d32 -version
java version "1.7.0_67" Java(TM) SE Runtime Environment (build 1.7.0_67-b01) Java HotSpot(TM) Client VM (build 24.65-b04, mixed mode)

Ubuntu 版本:

hduser@master:~$ uname -a Linux master 3.13.0-29-generic #53-Ubuntu SMP Wed Jun 4 21:02:19 UTC 2014 i686 i686 i686 GNU/Linux

Hadoop 版本

hduser@master:~$ hadoop version Hadoop 2.5.0 Subversion http://svn.apache.org/repos/asf/hadoop/common -r 1616291 Compiled by jenkins on 2014-08-06T17:31Z Compiled with protoc 2.5.0 From source with checksum 423dcd5a752eddd8e45ead6fd5ff9a24 This command was run using /home/hduser/hadoop-2.5.0/share/hadoop/common/hadoop-common-2.5.0.jar

编辑:

.bashrc

export SQOOP_HOME=/home/hduser/sqoop
export JAVA_HOME=$(readlink -f /usr/bin/javac | sed "s:/bin/javac::")
export PATH=$PATH:$SQOOP_HOME/bin
export HADOOP_COMMON_HOME=/home/hduser/hadoop
export HADOOP_MAPRED_HOME=/home/hduser/hadoop
export HADOOP_HOME=/home/hduser/hadoop
export PATH=$PATH:$HADOOP_HOME/bin
export PIG_HOME=/home/hduser/pig
export PATH=$PATH:$PIG_HOME/bin
export HBASE_HOME=/home/hduser/hbase
export HIVE_HOME=/home/hduser/hive
export PATH=$PATH:$HIVE_HOME/bin

最佳答案

在您的环境中设置 LD_LIBRARY_PATH 指向 HADOOP_HOME/lib/native 中存在的 native 库路径

编辑:

此配置可能因您的 Hadoop 发行版或 Linux 风格而异。 这是一个good link对 CentOS 有很好的解释。

关于Java 提示 Hadoop native 库,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25379351/

相关文章:

java - 简单 : convertAndSendToUser Where do I get a username?

java - 我可以在录制时为 WireMock 指定一个 --proxy-all 参数以匹配任何网站吗?

java - 解析文档时出错

hadoop - 如何在oozie spark action中了解spark应用程序的父应用程序

hadoop - 从mongodb导入数据到hdfs时出错

java - 自定义类加载器和 Java 代理

java - 如何使用流比较两个列表?

python - mrjob 找不到输入文件

java - 使用 MapReduce 在图中查找距离为 2 的节点对

java - MapReduce 排序程序中的 NullPointerException