hadoop - 容器在 mapreduce 任务期间以非零退出代码 1 错误退出

标签 hadoop mapreduce hipi

在 hadoop 中执行 jar 时,出现以下错误:

16/11/04 18:32:59 INFO mapreduce.Job: Task Id : attempt_1478261728730_0005_m_000000_2, Status : FAILED
Exception from container-launch.
Container id: container_1478261728730_0005_01_000004
Exit code: 1
Stack trace: ExitCodeException exitCode=1: 
    at org.apache.hadoop.util.Shell.runCommand(Shell.java:538)
    at org.apache.hadoop.util.Shell.run(Shell.java:455)
    at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:715)
    at org.apache.hadoop.yarn.server.nodemanager.DefaultContainerExecutor.launchContainer(DefaultContainerExecutor.java:211)
    at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:302)
    at org.apache.hadoop.yarn.server.nodemanager.containermanager.launcher.ContainerLaunch.call(ContainerLaunch.java:82)
    at java.util.concurrent.FutureTask.run(FutureTask.java:262)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
    at java.lang.Thread.run(Thread.java:745)


Container exited with a non-zero exit code 1

16/11/04 18:33:09 INFO mapreduce.Job:  map 100% reduce 0%

这是应用程序日志:

Native code library failed to load.
java.lang.UnsatisfiedLinkError: no opencv_java2411 in java.library.pathopencv_java2411

我不知道这是什么意思,有人可以帮忙吗?

最佳答案

您的集群节点上缺少 opencv。 参见 here有关如何处理此问题的所有详细信息。

长话短说,您需要在执行程序上安装 opencv。您无法真正以可移植的方式将它编译到作业的 .jar 中,因为它是 C 而不是 Java 代码。

更新: 请注意,Hadoop 执行程序上的环境由 hadoop-env.sh 设置。所以它需要包含这样一行:

JAVA_LIBRARY_PATH=${JAVA_LIBRARY_PATH}:/etc/opencv/lib

关于hadoop - 容器在 mapreduce 任务期间以非零退出代码 1 错误退出,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/40423528/

相关文章:

1TB 数据的 Hadoop 数据复制 block 大小率

java - Hadoop MapReduce 作业在本地无法加载库并且在 OS X 上连接失败

java - 如何使用 Hadoop/Hbase 实现网络搜索?

hadoop - HadoopImageProcessingInterface(HIPI)示例程序

hadoop - Hadoop HiPi-hibImport NoClassDefFoundError

sql - 如何比较具有不同数据类型组的两列

hadoop - 我如何在 Pig 中将许多 map 的元组分成不同的行

hadoop - hipi gradle构建错误

hadoop - Hbase CopyTable 将不同列族中的特定列复制到新表

hadoop - 失败任务与终止任务的区别