databricks - Flyway-Databricks 集成

标签 databricks database-migration azure-databricks flyway

我正在探索用于数据库迁移的 Flyway。我想将它与 Databricks 集成。已执行一些任务并尝试克服以下错误。

到目前为止我已经表演了

  1. 飞行路线 setup在本地计算机上。
  2. 已复制 spark-jdbc databricks驱动程序到Flyway的驱动程序文件夹
  3. 更新了 Flyway 配置

Picked-up the jdbc url from databricks cluster and created a token in databricks. Added these configurations in flyway config.
flyway.url= jdbc:spark://<hostname>:443/<database>;transportMode=http;ssl=1;AuthMech=3;httpPath=<httpPath>;UID=token;PWD=<token>
flyway.driver=com.simba.spark.jdbc.Driver
flyway.user=<dummy_username>
flyway.password=<token>

  • 收到错误
  • ERROR: Unexpected error
    org.flywaydb.core.api.FlywayException: No database found to handle jdbc:spark://<host>:443/<database>
            at org.flywaydb.core.internal.database.DatabaseTypeRegister.getDatabaseTypeForUrl(DatabaseTypeRegister.java:55)
            at org.flywaydb.core.internal.jdbc.DriverDataSource.<init>(DriverDataSource.java:109)
            at org.flywaydb.core.internal.jdbc.DriverDataSource.<init>(DriverDataSource.java:89)
            at org.flywaydb.core.api.configuration.ClassicConfiguration.configure(ClassicConfiguration.java:1653)
            at org.flywaydb.core.api.configuration.FluentConfiguration.configuration(FluentConfiguration.java:1038)
            at org.flywaydb.commandline.Main.main(Main.java:159)

    最佳答案

    Error - org.flywaydb.core.api.FlywayException: No database found to handle jdbc:spark://:443/

    此错误是由于驱动程序版本不同而发生的。

    尝试使用降级版本。如果不起作用,您可以尝试不同的配置组合。

    类似问题可以引用这个github link

    关于databricks - Flyway-Databricks 集成,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/71600878/

    相关文章:

    apache-spark - Delta Lake Medellion 分层架构,青铜层增量 ETL 最佳实践

    azure - 我可以在没有 Hadoop/HDInsight 的情况下在 Azure Databricks 上使用 Hive 吗?

    apache-spark - databricks 集群中的通用元数据

    python - 如何将 pandas 数据帧写入 Databricks dbfs/FileStore?

    azure - 找到的数据库名称

    mysql - 将数据从 MySql 迁移到 Derby (JAVADB) 的简便方法?

    azure - databricks 在工作流/作业中使用服务主体 + 远程存储库

    azure - 是否可以将 Databricks 笔记本安装到类似于库的集群中?

    sequelize.js - 应用迁移后 Sequelize 不更新元表

    azure - Azure Databricks 是否对终止(停止)的群集收费?