hadoop - 在 map 函数中更新计数器并在 reduce 中访问

Question

我正在使用 Hadoop 管道。我想在 map 中使用 counter，它应该可以在 reduce 函数中访问。
这可能吗？

Answer 1

不，在同一份工作中这是不可能的。但是，您可以有一个没有 reducer 的作业，收集您想要计算的任何计数器信息，然后启动第二个作业，在作业配置对象中添加这些计数值，然后第二个作业的 reducer 可以访问这些值.

编辑:

这是一个代码示例:

enum COUNTERS {C1; C2;}

class DriverCode
{
  Configuration conf = new Configuration();
  //the Mapper increases C1
  Job job1 = new Job(conf, "Job1"); 
  job1.setJarByClass(MyJar.class);
  job1.setMapperClass(MyMapper1.class); 
  ...

  //read out C1 
  long c1 = job.getCounters().findCounter(COUNTERS.C1).getValue();

  //set it for the new job
  conf.setLong("c1",c1);
  Job job2 = new Job(conf, "Job2"); 
  //and now you can access this configuration object in your second job
  job2.setJarByClass(MyJar.class); 
  job2.setMapperClass(MyMapper2.class);
  ...
}