azure - 在ADF中,使用摄取功能提取数据效果很好,但无法使用数据流提取数据。有什么建议么?

标签 azure azure-data-factory

我的目标: 使用 Synapse 源和一些 Power Query 转换创建数据流,然后将结果加载到 Synapse 接收器中。数据流通过验证。当我将数据流移动到管道中(作为管道中唯一的东西)时,它通过验证,然后在调试中失败。

我尝试过的有效方法: (1) 创建了 Azure Blob 存储和 Azure Synapse Analytics 的链接服务, (2) 为源和汇创建数据集, (3) 使用摄取功能创建管道,从 Synapse 源读取数据,暂存在 blob 存储中,并将数据复制到 Synapse 接收器

什么不起作用: 创建了一个数据流来从 Synapse 源读取数据,暂存在 blob 存储中,并将数据复制到 Synapse 接收器。数据流验证工作正常。我将数据流拖放到管道 Canvas 上。管道验证正常,但在调试时死亡。

我以两种不同的方式运行此操作,更改链接服务中使用的帐户: (1) 使用我的帐户(贡献者状态)。我收到一条错误消息,说我没有权限。我有足够的权限使用摄取功能复制数据,为什么我没有足够的权限使用数据流复制数据? This is the error I received

(2) 使用管理员帐户。管道仍然失败,但现在错误涉及主 key 。 This is the error I received

最佳答案

根据您收到的错误,ADF 数据流似乎正在使用 Polybase 方法从 synapse Analytics 读取数据。

The connection expects the first instruction to be preceded by the existence of a database master key for the selected Azure Synapse instance. In that case, you can use the CREATE MASTER KEY command to create a key.

如要解决的错误中所述,您可以在源数据库上创建主 key 或更改主 key 。

CREATE MASTER KEY ENCRYPTION BY PASSWORD = 'strong_password'

或者

ALTER MASTER KEY REGENERATE WITH ENCRYPTION BY PASSWORD = 'strong_password';

您可以直接在 Synapse SQL 池中执行此操作,或者在同一数据流之前运行脚本事件。

FYI it can be bug, I tried the same in my environment but initially I am getting same error as you but after running copy activity for the same and its successful execution the data flow is also executed successfully.

Raised the issue here for the same

成功执行:

enter image description here

关于azure - 在ADF中,使用摄取功能提取数据效果很好,但无法使用数据流提取数据。有什么建议么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/76519702/

相关文章:

c# - 带有 Telegram channel 按钮的缩略图卡会产生 InternalServerError

azure - Azure 中的自定义 VM 规范?

azure - B2C 自定义策略访问 token 导致 401 响应

azure - ADF CI 构建错误 : Command failed: node/home/shaadmin/myagent/_work/5/s/adf/build/downloads/main. js 验证

Azure Resource Graph API - 通过数据工厂获取资源表

python - 如何从 Azure 数据工厂管道将参数传递给 python 脚本

azure - 使用 AZ CLI 创建 Azure 应用程序注册时出现问题

azure - 将数据从 csv 复制到 sql 表时如何在目标表中插入 CurrentUserId 和 TenantId 字段

azure-data-factory - Set-AzureRmDataFactoryV2 无法识别 cmdlet 的名称

部署在本地服务器的 Azure Functions 项目