java - AWS EMR 5.20 和 Java 版本支持

标签 java apache-spark amazon-emr

我想知道 Amazon EMR 5.20 AMI 是否支持 Java 9?

我在这里找不到信息。 我有兴趣将 Spark 2.4.0 与 JDK 9 和 Scala 2.12 结合使用。

https://docs.aws.amazon.com/fr_fr/emr/latest/ReleaseGuide/emr-release-5x.html https://docs.aws.amazon.com/cli/latest/reference/emr/create-cluster.html

谢谢。

最佳答案

首先,您不能将 Scala 2.12.x 与 Spark 2.4.0 一起使用(顺便说一句,有实验支持,请参阅评论)。如 documentation 中所述,要使用 Spark 2.4.0,您需要使用兼容的 Scala 版本,即 2.11.x 系列。

其次,来自documentation , JDK9+ 兼容 Scala 2.11.12 但它是 incomplete .

最后,AWS EMR 5.20 使用 Apache Spark 2.4.0。您可以从主节点中的命令行检查 JDK 版本。

>java -version
openjdk version "1.8.0_191"
# "b" means "build"
# Version number is 8u191, which also means JDK 8 Update 191
OpenJDK Runtime Environment (build 1.8.0_191-b12)
OpenJDK 64-Bit Server VM (build 25.191-b12, mixed mode)

或者,您可以直接运行 spark-shell 命令,它将同时打印 Scala (2.11.12) 和 JDK 版本 (JDK8)。

希望对您有所帮助!

注意:另一个doc还声明 Java 8 是 AWS EMR 5.0.0 或更高版本的集群实例的默认 JVM。

关于java - AWS EMR 5.20 和 Java 版本支持,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/54009485/

相关文章:

java - 抽屉布局中的回收器 View

JavaFX : How to set you scrollbars of a ScrollPane in the center?

java - 在 JavaFX 中调整图像的不透明度

python - 多节点 cassandra 集群 - load_balancing_policy

Java 序列化 vs Hadoop 序列化 vs Spark 序列化

apache-spark - 用于下载 EMR Spark 集群中的 jar 依赖项的引导脚本

hadoop - HUE文件管理器,能够创建HDFS子目录/文件夹,但无法将文件上传到HDFS

java - Java命令行可以指定多少个Classpath?

java - Spark-ClassNotFoundException:org.eclipse.jetty.server.bio.SocketConnector

python - Boto:如何在完成/失败后保持 EMR 作业流程运行?