有没有办法在本地执行 Spark 代码 databricks-connect ?
原因是我想在 CI/CD 管道中执行一些测试,而不需要启动并运行集群。
最佳答案
不,databricks-connect
需要正在运行的集群。
如果您不使用任何 databricks 特定代码(例如 dbutils
),您可以在本地运行 Spark 并针对该代码执行 - 假设您仍然可以访问所需的数据源。
关于azure - 如何使用databricks-connect在本地执行Spark代码?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/57186230/