java - 对 Hadoop Map-Reduce 应用程序进行基准测试

标签 java hadoop mapreduce benchmarking scheduling

我需要按作业执行时间比较两种 Hadoop 调度算法。 我可以使用什么来获取所有任务的执行持续时间?

最佳答案

JobTracker 网络用户界面为您提供非常有用的报告,允许比较每个映射器和缩减器的所有内容和可用日志。

同时查看 hadoop-test.jar 存档中的 mrbench 类。网上有很多关于它在 Hadoop 集群基准测试中的用法的信息,例如 this article .

关于java - 对 Hadoop Map-Reduce 应用程序进行基准测试,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/16939831/

相关文章:

java - 动画未按预期工作

java - 我如何引用枚举的分组?基本的国际象棋游戏,想要有效地引用所有黑/白棋子

java - 从 Oracle 数据库中检索日期列时如何忽略 java 所做的 DST 调整?

java - 将参数从 Activity.onCreate 传递到其他方法

hadoop - Kryos/Java 序列化程序的 Spark-shell --conf 选项

hadoop - 解析异常EOF配置单元

security - 什么是 key 表?

hadoop - Spark - 寻找重叠值或寻找共同 friend 的变体

hadoop - 如何在 hadoop mapreduce/yarn 中设置 VCORES?

java - 通用数据记录无法转换为 Avro