我正在尝试使用 Spark 从 cassandra 2.0.6 读取数据。我使用 datastax 驱动程序。在阅读时,我收到一个错误,例如“Loss was due to java.lang.ClassNotFoundException” java.lang.ClassNotFoundException:com.datastax.spark.connector.rdd.CassandraRDD“。但我在我的pom.xml中包含了spark-cassandra-connector_2.10,其中包含com.datastax.spark.connector.rdd.CassandraRDD类。Am我缺少任何其他设置或环境变量。
最佳答案
您需要使用 -cp 选项确保连接器位于执行器的类路径上,或者它是 Spark 上下文中的捆绑 jar(使用 SparkConf.addJars() )。
针对现代 Spark 进行编辑
在 Spark > 1.X 中,通常建议您使用 Spark-submit 命令将依赖项放置在执行程序类路径上。看 http://spark.apache.org/docs/latest/submitting-applications.html
关于cassandra - Spark+cassandra java.lang.ClassNotFoundException : com. datastax.spark.connector.rdd.CassandraRDD,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25357640/