hadoop - 运行 map 减少作业时使用-libjars时出错

标签 hadoop

我正在尝试使用hadoop jar命令运行 map 缩小作业。
我正在尝试使用-libjars选项包括外部库。
我当前正在运行的命令是
hadoop jar mapR.jar com.ms.hadoop.poc.CsvParser -libjars google-gson.jar Test1.txt输出
但我将其作为输出
用法:[输入] [输出]
谁能帮我一下。
我也在类路径中包括了外部库。

最佳答案

您可以列出main(String args[])方法的内容吗?您是否正在使用ToolRunner界面启动工作? -libjars参数的解析是GenericOptionsParser的函数,可通过ToolRunner实用工具类为您调用该函数:

public class Driver extends Configured implements Tool {
    public static void main(String args[]) {
        System.exit(ToolRunner.run(new Driver(), args)));
    }

    public int run(String args[]) {
        Job job = new Job(getConf());
        Configuration conf = job.getConfiguration();

        // other job configuration

        return job.waitForCompletion(true) ? 0 : 1;
    }
}

关于hadoop - 运行 map 减少作业时使用-libjars时出错,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/11862446/

相关文章:

hadoop - 如何在 Mac 上完全卸载 Hadoop

scala - Spark-在分组和收集期间跨列维护数据顺序

hadoop - 使用 oozie 协调器安排每月工作

hadoop - 如何使 hadoop snappy 输出文件的格式与 Spark 生成的文件格式相同

hadoop - 要下载哪个版本的 Spark?

hadoop - 使用Sqoop --query将数据从MySQL导入到HBase时出错?

hadoop - 级联 HBase Tap

hadoop - 如何在运行 copyFromLocal 命令时更改复制因子?

java - 无法存储 Hive Metastore 服务器和 Hive shell