apache-spark - 我可以在同一个节点上有一个主节点和一个工作节点吗?

标签 apache-spark cluster-computing master-slave apache-spark-1.5

我有一个 3 节点 spark 独立集群,在主节点上我也有一个 worker。当我向集群提交应用程序时,另外两个工作人员开始运行,但主节点上的工作人员保持状态加载,最终另一个工作人员在其他机器上启动。

在同一个节点上有一个 worker 和一个 master 是问题所在吗? 如果是,有没有办法解决这个问题,或者我永远不应该在同一个节点上有一个 worker 和一个主人?

附言每台机器有 8 个内核,工作人员设置为使用 7 个而不是全部 RAM

最佳答案

是的,你可以,这里来自Spark web doc :

In addition to running on the Mesos or YARN cluster managers, Spark also provides a simple standalone deploy mode. You can launch a standalone cluster either manually, by starting a master and workers by hand, or use our provided launch scripts. It is also possible to run these daemons on a single machine for testing.

关于apache-spark - 我可以在同一个节点上有一个主节点和一个工作节点吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35137743/

相关文章:

scala - Scala和Spark : Cast multiple columns at once

python - 数据从 Spark 中的 RDD 获取进程的顺序是什么?

java - hadoop 集群仅使用主节点或所有节点

java - 具有共享对象的 Tomcat 6 集群

MySQL复制,master只复制一部分数据到slave

hadoop - Apache Spark完成后将杀死所有用户进程

apache-spark - 如何使用UDF返回多列?

spring-boot - Stomp 套接字在具有 2 个实例的 tomcat 集群中不工作。我正在使用 simpMessagingTemplate 广播消息。这不是聊天应用程序

MySQL:同一台服务器上是否可以有多个从属/数据库副本?

java - 无法在 Windows 上使用主/从机在 Jenkins 上运行 mvn.bat