macos - 如何设置 mesos 在独立 OS/X 上运行 Spark

标签 macos scala apache-spark mesos

我想在 Mac 上测试 Spark 程序。 Spark 正在运行,并且我的 Spark scala 程序已编译:但运行时出现库(mesos.so?)错误:

Exception in thread "main" java.lang.UnsatisfiedLinkError: no mesos in java.library.path
    at java.lang.ClassLoader.loadLibrary(ClassLoader.java:1758)
    at java.lang.Runtime.loadLibrary0(Runtime.java:823)
    at java.lang.System.loadLibrary(System.java:1045)
    at org.apache.mesos.MesosNativeLibrary.load(MesosNativeLibrary.java:46)
    at spark.SparkContext.<init>(SparkContext.scala:170)
    at com.blazedb.scala.ccp.spark.LoadRDD$.main(LoadRDD.scala:14)

为了运行 Spark 客户端程序,除了 Spark 服务器本身之外,mesos 还需要在 os/x 上进行哪些设置?

最佳答案

您需要设置“MESOS_NATIVE_LIBRARY”环境变量,这是libmesos.so的位置。它通常是/usr/local/lib/libmesos.so。

# For Linux
$ export MESOS_NATIVE_LIBRARY='/usr/local/lib/libmesos.so'

# For OSX
$ export MESOS_NATIVE_LIBRARY='/usr/local/lib/libmesos.dylib'

我建议也将该行添加到您的 .bashrc 中,以避免每次都这样做。

关于macos - 如何设置 mesos 在独立 OS/X 上运行 Spark,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/20941201/

相关文章:

apache-spark - 如何有效地找到 PySpark 数据帧中每列的 Null 和 Nan 值的计数?

java - Spark Local Mode - 所有作业只使用一个 CPU 内核

Mavericks 升级后 OS X 上的 C++ 编译问题

macos - 执行 wine != 执行 `which wine`

java - 无法停止甚至杀死 tomcat 进程

scala - 如何循环枚举,为每个枚举项设置值?

scala - 使用 Spark Streaming 从 http 创建分析

单个 View 的 macOS SwiftUI 导航

scala - Scala 的 "specs"BDD 框架如何工作?

apache-spark - spark redis 键列映射不起作用 - 返回 null