java - 如何测量 Hadoop 中每个阶段(映射、洗牌/排序、减少)的持续时间?

标签 java performance hadoop profile

Hadoop 执行 map、shuffle/sort 和 reduce 阶段。 我想知道每个阶段的持续时间。我的意思是,他们需要多长时间?

我搜索了很多文档,但找不到任何明确的解决方案。例如,我设置配置文件并启用分析器以使用 Hadoop 分析器。但是没有生成结果文件“java.hprof.txt”。此外,我不确定结果文件是否包含我想要的信息。

你能帮帮我吗?

最佳答案

跟踪工作进度的一种方法是查看 Hadoop 提供的 Web UI。默认情况下,它位于 http://server-adress:50030/jobtracker.jsp

您可以在其中找到有关任务运行时间、任务进度、查看日志和许多其他有用工具的信息。

关于java - 如何测量 Hadoop 中每个阶段(映射、洗牌/排序、减少)的持续时间?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/22188887/

相关文章:

java - 在GZIPWrapper中如何将if else替换为Optional.orElse?

android - RecyclerView 会回收 NestedScrollView 中的项目吗?

c - 'switch' 比 'if' 快吗?

python - 如何优化图像比较脚本的性能?

java - 单元测试 RxJava onComplete、onNext 和 onError

java - 连接 Controller 与 Scene Builder 事件

java - KeyStore 未返回正确的 key

java - Archlinux上的Hadoop dfs无法启动| SSH端口22连接被拒绝

hadoop - 租约不匹配 LeaseExpiredException

hadoop - 如何在工作流本身中使用 Oozie 工作流配置属性?