Hadoop 基准测试/性能测试

标签 hadoop benchmarking performance-testing

我想在我的 Hadoop 集群上执行基准测试和性能测试。 我知道 hadoop-mapreduce*test*.jar 和 hadoop-mapreduce-examples*.jar 有很多用于基准测试的程序。

是否有任何文件可用于这些测试,其中提供了每个测试和性能度量的详细信息? 此外,在执行任何测试后,是否有任何值可用于比较结果?

谢谢。

最佳答案

您有 HiBench,其中包含一些用于对 hdfs、hive 进行基准测试的工具...您可以在这里找到它:https://github.com/intel-hadoop/HiBench

Berkeley university created a benchmark with a dataset for hive, impala ... 你可以在这里引用:https://amplab.cs.berkeley.edu/benchmark/

Terasort 也是一个著名的基准测试。它包含 3 个生成数据并使用 MapReduce 测试集群的程序。更多信息:http://hadoop.apache.org/docs/current/api/org/apache/hadoop/examples/terasort/package-summary.html

关于Hadoop 基准测试/性能测试,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/24135513/

相关文章:

linux - 无法使用 "du -h"在 Linux 中找到大文件

hadoop - 从S3解压缩

hadoop - 我如何在 Pig 中将许多 map 的元组分成不同的行

hadoop - accumulo 无法加载平板电脑

solr - 在哪里可以找到 Apache Lucene/Solr 的性能基准

benchmarking - Meteor 在众多客户之间共享大量收藏时的效率如何?

mysql - 我可以在现有数据库上使用 mysqlslap 吗?

post - 如何在jmeter的变量中保存响应

java - 收集与多个 AWS 服务交互的 Java 应用程序的性能指标

javascript - 使用 Javascript 的 window.performance.timing 计算页面加载时间