java - Spring Boot YARN如何部署到Hadoop

标签 java spring hadoop spring-boot hadoop-yarn

我正在尝试运行 Spring Boot YARN 示例(Windows 上为 https://spring.io/guides/gs/yarn-basic/)。但是示例使用本地 hadoop。在 application.yml 中,我更改了 fsUri 和 resourceManagerHost 以指向我的 VM 主机 192.168....

但它不起作用。 当我将 jars 移动到 VM 并运行时 - 它有效。但是我想从我的主机运行另一个节点(在我的例子中是 VM)。

还有一个问题:针对另一个真正的 Hadoop YARN 而不是针对本地运行我的应用程序的正确方法是什么?

我搜索、阅读、观看了很多信息,但没有关于部署的明确解释。

最佳答案

问题中提供的教程链接适用于单节点集群,其中NamenodeResourcemanagerApplicationManagerdatanodeNodemanager 和所有其他 YARN 节点 在同一台本地计算机上运行。地址 localhost:8020 在这种情况下有效。

但是正如您提到的那样,目的是创建一个集群,您必须确保只有一个namenoderesourcemanager .

如果您在配置文件中定义localhost,那么cluster中的每个节点都将充当namenoderesourcemanagerhadoop 会对报告和更新查询感到困惑。从而导致模棱两可的情况。

解决方案是只定义一个namenoderesourcemanager,这可以通过指定一个IPhostnamenamenode (master) 的。

关于java - Spring Boot YARN如何部署到Hadoop,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/44260880/

相关文章:

java - 使用 NoSuchBeanDefinitionException Autowiring 独立应用程序

hadoop - HIVE 查询问题(选择计数 (*))

hadoop - OSX 上 Hortonworks 沙盒上的 Spring XD

java - 4.0 XSD 上的 Hibernate 异常

java - Java中的文件io

java - 如何在末尾没有时区的情况下将日期时间显示为本地时间?

java - JSP 简单 IF 语句

java - 在 Java Spring 应用程序中找不到包

java - Spring通用bean工厂

hadoop - 单个hadoop集群中的多个环境