map - Hadoop:将slave设置为显式reducer?

标签 map hadoop mapreduce reduce slave

我们在debian + ubuntu上使用了hadoop多节点安装程序以及最新的稳定hadoop版本。是否可以将特定的从属设备设置为 reducer ?我只使用一个化简器任务,我想将其分配给性能最高的奴隶。 atm我们有1个主控,仅将任务分配给从属和5个从属,其中一个比其他的更强大。

提前致谢

最佳答案

通过在所有mapred.tasktracker.reduce.tasks.maximum文件中将conf/mapred-site.xml设置为0来禁用所有其他节点上的reducer插槽(要还原的一个节点除外)。

或者,您可以为Fair Scheduler编写一个自定义的LoadManager类(请参阅this),但这需要做很多工作。

关于map - Hadoop:将slave设置为显式reducer?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6224089/

相关文章:

java - reducer 可以将消息传递给Hadoop mapreduce中的驱动程序吗?

hadoop - map 中 key 的类型不匹配:预期的org.apache.hadoop.io.Text,收到的org.apache.hadoop.io.LongWritable

c++ - 我如何将 map 的反面复制到另一张 map ?

json - Google Dart删除DropDown重复项

Haskell:如何从标准输入中逐行读取值并将它们添加到 map 中?

hadoop - Apache 麒麟 : Intermediate table not found

scala - 无需复制即可使可变映射不可变的方法

hadoop - Hadoop 2.7.5 Yarn HA冲突和错误

python - 我的 map 缩小了以前可以使用的 map ,不再起作用

java - 在 Reducer 中获取输入文件