java - 无此类文件异常 - Spark Standalone 集群

标签 java apache-spark

我有两台机器,名称为:

  1. ubuntu1 - 主节点
  2. ubuntu2 - worker

我正在尝试执行该示例,因此我有一个 jar 名称 app1.jar。

当我提交申请时,发送错误。

java.io.NoSuchFileException:/home/ubuntu1/demo/app1.jar

我的命令行是

./spark-submit --master spark://ubuntu1-VirtualBox:7077 --deploy-mode cluster --class br.com.wordCount.App -v --name"App 1" /home/ubuntu1/demo/app1.jar /home/ubuntu1/demo/myfile.txt

为什么向我发送此错误?该文件就是该目录。

注意:Master和Worker在不同的机器上。

非常感谢。

最佳答案

所以,我正在使用 --deploy-mode 集群,这就是在集群中找不到 jar 的原因。我认为有些作品没有jar,所以如果我想使用集群部署模式,解决方案是将jar放在每个节点中。

关于java - 无此类文件异常 - Spark Standalone 集群,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46159300/

相关文章:

java - 如何使用数字获取货币对象

java - 我有一个UDP服务器和客户端,现在如何让它们不断发送/接收?

java - Commons Lang HashCodeBuilder 与 Eclipse hashCode() 生成

apache-spark - spark saveAsTable 真的创建表了吗?

scala - scala rdd 中键的元组值

apache-spark - spark jdbc df limit...它在做什么?

java - 多线程 TCP 服务器 : java.net.SocketException:套接字已关闭

Java Swing JLabels 在 buildGUI 方法中显示,但如果从另一个方法添加则不显示

python - 使用 pyspark 创建自动增量键值

apache-spark - 如何在 Databricks 中配置自定义 Spark 插件?