java - 为 Spark 创建 JAR

标签 java scala apache-spark sbt distributed-computing

我正在关注这个 guide ,但是当我尝试使用 sbt 创建 JAR 时,我无法在 Spark 中运行 Scala。

我有 simple.sbt 作为:

name := "Simple Project"
version := "1.0"
scalaVersion := "2.10.4"
libraryDependencies += "org.apache.spark" % "spark-core_2.10" % "1.6.0"

这里是错误:

sbt package
[INFO]  ..
[warn]  [NOT FOUND  ] org.eclipse.jetty.orbit#javax.servlet;3.0.0.v201112011016!javax.servlet.orbit (255ms)
[warn] ==== public: tried
[warn]   http://repo1.maven.org/maven2/org/eclipse/jetty/orbit/javax.servlet/3.0.0.v201112011016/javax.servlet-3.0.0.v201112011016.orbit
[warn]  ::::::::::::::::::::::::::::::::::::::::::::::
[warn]  ::              FAILED DOWNLOADS            ::
[warn]  :: ^ see resolution messages for details  ^ ::
[warn]  ::::::::::::::::::::::::::::::::::::::::::::::
[warn]  :: org.eclipse.jetty.orbit#javax.servlet;3.0.0.v201112011016!javax.servlet.orbit
[warn]  ::::::::::::::::::::::::::::::::::::::::::::::
[error] {file:/home/gsamaras/spark-1.6.0-bin-hadoop2.6/code/}default-04a409/*:update: sbt.ResolveException: download failed: org.eclipse.jetty.orbit#javax.servlet;3.0.0.v201112011016!javax.servlet.orbit
[error] Total time: 25 s, completed Feb 10, 2016 5:11:30 PM

Scala 版本,但我在某处读到它不相关:

gsamaras@gsamaras:~/spark-1.6.0-bin-hadoop2.6/code$ scala -version
Scala code runner version 2.11.6 -- Copyright 2002-2013, LAMP/EPFL

和 sbt 版本:

gsamaras@gsamaras:~/spark-1.6.0-bin-hadoop2.6/code$ sbt sbt-version
[info] Set current project to Simple Project (in build file:/home/gsamaras/spark-1.6.0-bin-hadoop2.6/code/)
[info] 0.11.3

相关:SBT, Jetty and Servlet 3.0

最佳答案

sbt 更新到最新版本,方法是(某些步骤可能是可选的):

sudo apt-get remove sbt
echo "deb https://dl.bintray.com/sbt/debian /" | sudo tee -a /etc/apt/sources.list.d/sbt.list
sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv 642AC823
sudo apt-get update
sudo apt-get install sbt
sudo apt-get upgrade sbt

你会没事的。

关于java - 为 Spark 创建 JAR,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/35318343/

相关文章:

scala - IDEA中的SBT来源

java - 使用选择排序按字母顺序对数组进行排序

Java REST ful 客户端代码有问题

java - 按下按钮时图像更改Java

java - 加特林每次调用的负载

scala - dataframereader 如何读取http?

java - Java 的 C 兼容 printf 输出

scala - 我需要一个 Scala 中的客户端库用于 Redis 集群

apache-spark - 通过检查另一行的条件更新特定行中的值,pyspark

python - 如何使用 pyspark 在 txt 文件 RDD 中找到值列表的交集?