apache - HADOOP/YARN - ResourceManager 和 hdfs NameNode 是否总是安装在同一台主机上?

标签 apache rest hadoop hadoop-yarn webhdfs

“资源管理器”和“hdfs namenode”是否总是安装在同一台主机上?

1) 当我想向 get new application id 发送 http 请求(YARN REST API)时我正在使用这个网络 uri:

http://<rm http address:port>/ws/v1/cluster/apps/new-application

此端口是Resource-Manager Web UI 的http 端口,默认值为8088,如img1 所示:source for img1 Yarn Ports

2) 当我想为 hdfs 命令发送一个 http 请求(WebHDFS REST API)时,例如 get file status我正在使用这个网络 uri:

http://<HOST>:<PORT>/webhdfs/v1/<PATH>?op=GETFILESTATUS

<PORT>是 NameNode WebUI http 端口,它的默认值为 50070,如 img2 所示:source for img2 HDFS Ports

那些组件(ResourceManager 和 NaneNode)的主机是否总是安装在同一台主机上?

任何帮助将不胜感激,谢谢!

最佳答案

没有必要在单台机器上运行resourceManager和nameNode,我们在单节点/小型集群中工作时有这样的配置---有几个节点---配置。当有大型集群时,master节点通常在不同的机器上运行resourceManager、nameNode和secondaryNamenode。

cluster topology

查看这些链接:

Master Nodes in Hadoop Clusters

HortonWorks: Typical Hadoop Cluster

关于apache - HADOOP/YARN - ResourceManager 和 hdfs NameNode 是否总是安装在同一台主机上?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/29346081/

相关文章:

apache - NET::ERR_CERT_REVOKED - 仅适用于少数客户端而非全部 - CentOS 服务器

Apache Mahout 作为推荐引擎

api - 缺少父资源的REST API代码/消息

rest - 是否有一个图数据库可以自动为每个节点生成静态端点?

java - Hadoop比较器方法比较不是从复合键类调用

scala - 我可以在 Apache Spark 中捕获诸如 on Executor start 之类的事件吗?

java - Apache 中的 WRITE_ERROR_TO_CLIENT 错误

php - Symfony 中的 ResponseListener 导致在开发模式下来自 apache 的重复 header 'Content-Type'

c++ lib 为初学者使用 REST api

hadoop - MapReduce什么时候调用Exactly Combiner?