hadoop - 可以同时运行多少个 Mapreduce 作业

标签 hadoop mapreduce

我想知道在单节点hadoop环境下可以同时提交/运行多少个Mapreduce作业,有没有限制?

最佳答案

从配置的角度来看,据我所知没有任何限制。您可以将 map 和减少槽的数量设置为您想要的任何数量。但实际上,每个插槽都必须启动一个能够运行一些 hadoop 代码的 JVM,这需要一定量的内存,因此最终您的机器上会耗尽内存。您可能还必须巧妙地配置作业队列才能同时运行大量任务。

现在,什么是可能的问题与什么是好主意是一个非常不同的问题......

关于hadoop - 可以同时运行多少个 Mapreduce 作业,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19691612/

相关文章:

hadoop - Hadoop能否区分不同的从节点,指定每个节点处理不同的数据?

hadoop - 当mapred.job.shuffle.input.buffer.percent=0.70时pig join在reducer中出现OutOfMemoryError

hadoop - map 中 key 的类型不匹配:预期的org.apache.hadoop.io.Text,收到的org.apache.hadoop.io.LongWritable

mongodb - Hadoop 是小数据的好解决方案吗?

python - cygwin hadoop映射减少问题

java - Hadoop 内存使用 : reduce container is running beyond physical memory limits

hadoop - 如何映射减少顺序数据,其中 Kn+1->Vn+1 = f(Kn->Vn)?

sql - 从时间戳格式 "25/Nov/2016:15:48:01 +0000' 中检索月份

hadoop - 使用 Spark 时SBT纱的错误

hadoop - 将 MS Access 数据 Sqooping 到 HDFS - Hadoop