我们在debian + ubuntu上使用了hadoop多节点安装程序以及最新的稳定hadoop版本。是否可以将特定的从属设备设置为 reducer ?我只使用一个化简器任务,我想将其分配给性能最高的奴隶。 atm我们有1个主控,仅将任务分配给从属和5个从属,其中一个比其他的更强大。
提前致谢
最佳答案
通过在所有mapred.tasktracker.reduce.tasks.maximum
文件中将conf/mapred-site.xml
设置为0来禁用所有其他节点上的reducer插槽(要还原的一个节点除外)。
或者,您可以为Fair Scheduler编写一个自定义的LoadManager类(请参阅this),但这需要做很多工作。
关于map - Hadoop:将slave设置为显式reducer?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6224089/