hadoop - YARN应用程序如何估算所需资源

标签 hadoop yarn

我想知道YARN应用程序(例如MapReduce作业)如何估算单个映射器/缩减器所需的资源(CPU,RAM)。

最佳答案

这个问题太广泛了,但我会尽力给出调查的方向。当执行Yarn应用程序时,它从资源管理器请求一些资源。 Yarn中的资源管理是通过调度程序实现的。 Yarn支持两个调度程序:

  • Fair scheduler
  • Capacity Scheduler

  • 调度程序定义规则,这些规则用于估计应用程序的“插槽”。对于某些调度程序,“插槽”仅由应用程序所需的内存(带有DefaultResourseCalculator的容量调度程序)定义。其他人也会考虑CPU的数量。

    关于hadoop - YARN应用程序如何估算所需资源,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36694193/

    相关文章:

    sql - Hive 查询卡在 99%

    hadoop - 自定义分区程序示例

    sql - 将简化的 ES 查询结果传递给 SQL

    hadoop - HDP 3.1.0.0-78升级后无法使用ResourceManager UI终止YARN应用

    hadoop - 我们可以拥有cloudera CDH5配置生成器吗?

    apache-spark - 在 YARN-Cluster 模式下运行时找不到 Hive 表

    java - 在 Java 中使用 Avro 的 MapReduce : String vs CharSequence vs Utf8 data types

    hadoop - 如何在配置单元中添加具有静态值的动态列

    hadoop - 通过REST api返回终止YARN应用程序未经远程用户dr.who授权

    hadoop - tez session 没有在 hive 中开始