azure - 我可以在 Spark 池突触中运行存储过程吗?

标签 azure apache-spark-sql azure-synapse spark-notebook

我想知道如何在我在专用 SQL 池中创建的 Spark 池(azure synapse)中运行存储过程。我们还可以运行 SQL 查询来访问笔记本中 ddsql 池中的数据。

最佳答案

可以做到这一点(例如,使用 ODBC 连接,如所述 here ),但最好只使用 Synapse Pipeline 来进行编排:

  1. 运行存储的 Proc 事件,将您要使用的数据放置在相关表或存储帐户中
  2. 使用 spark.read.synapsesql 方法调用笔记本事件,如详细描述 here .

模式:

enter image description here

将现有数据从 sql 池复制到 Spark 是否有特殊原因?我做了一个非常相似的模式,但保留它用于我在 SQL 中无法完成的事情,例如复杂的转换、正则表达式、硬数学、复杂的字符串操作等

关于azure - 我可以在 Spark 池突触中运行存储过程吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/72641019/

相关文章:

azure - 使用托管身份从 ADF 设置对 REST API 的调用时, "Resource"是什么

reactjs - Azure React应用程序 'You do not have permission to view this directory or page'

python - 将数据从 Dataframe 传递到现有 ML VectorIndexerModel 时出错

apache-spark - 使用 Spark 和 DataFrames 的 Parquet 与 Cassandra

azure - Synapse - 列名称无效。列名称不能包含这些字符 :[, ;{}()\\n\\t=]

azure 逻辑应用程序故障处理

asp.net-mvc - 带有文件扩展名的 ASP.NET MVC 路由不再在生产中工作

scala - Spark 是否对多个 withColumn 的数据进行一次传递?

azure - 如何获取powerbi中工作区上所有数据集的刷新历史记录

azure - 在 Polybase 中创建 View