我正在使用以下命令在 kubernetes 集群中运行示例 spark 作业:
bin/spark-submit \
--deploy-mode cluster \
--class org.apache.spark.examples.SparkPi \
--master k8s://https://XXXXX \
--kubernetes-namespace sidartha-spark-cluster \
--conf spark.executor.instances=2 \
--conf spark.app.name=spark-pi \
--conf spark.kubernetes.driver.docker.image=kubespark/spark-driver:v2.1.0-kubernetes-0.1.0-rc1 \
--conf spark.kubernetes.executor.docker.image=kubespark/spark-executor:v2.1.0-kubernetes-0.1.0-rc1 \
examples/jars/spark-examples_2.11-2.1.0-k8s-0.1.0-SNAPSHOT.jar 1000
我正在从 apache-spark-on-k8s 建立 Spark
我找不到
org.apache.spark.deploy.kubernetes.submit.Client
的 jar 类(class)。
最佳答案
此问题已解决。我们需要从源代码构建 spark/resource-manager/kubernetes。
关于apache-spark - java.lang.ClassNotFoundException : org. apache.spark.deploy.kubernetes.submit.Client,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45813923/