我想知道在单节点hadoop环境下可以同时提交/运行多少个Mapreduce作业,有没有限制?
最佳答案
从配置的角度来看,据我所知没有任何限制。您可以将 map 和减少槽的数量设置为您想要的任何数量。但实际上,每个插槽都必须启动一个能够运行一些 hadoop 代码的 JVM,这需要一定量的内存,因此最终您的机器上会耗尽内存。您可能还必须巧妙地配置作业队列才能同时运行大量任务。
现在,什么是可能的问题与什么是好主意是一个非常不同的问题......
关于hadoop - 可以同时运行多少个 Mapreduce 作业,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19691612/