azure - ADF 复制事件 FTP 源奇怪行为

标签 azure azure-data-factory

我创建了一个 ADF 管道,用于将大约 18 个文件从 FTP 位置复制到 Azure Blob 容器中。最初,我使用“获取元数据事件”从 FTP 位置获取所有文件。然后,我有 ForEach 事件来循环所有文件。在 ForEach 事件中,我有复制数据事件,它从 FTP 位置复制到 Blob 位置。

运行管道时,某些文件正在被复制,但是其中一些文件失败,并显示以下错误消息 -

“ErrorCode=UserErrorFileNotFound,'Type=Microsoft.DataTransfer.Common.Shared.HybridDeliveryException,Message=远程服务器返回错误:(550) 文件不可用(例如,未找到文件、无法访问)。, Source=Microsoft.DataTransfer.ClientLibrary,''Type=System.Net.WebException,Message=远程服务器返回错误:(550) 文件不可用(例如,未找到文件,无法访问)。,Source=System,'"

我不确定这里出了什么问题,因为其他文件已成功复制,但其中很少有没有复制成功。我不得不尝试多次,仍然不能保证所有文件都会被复制。

当我尝试查看与 FTP 链接服务的连接是否正常工作时,它表示连接成功。 FTP 链接服务启用了 SSL,并配置为从 Azure Key Vault 获取密码。

当我运行管道时,请参阅下面的输出 -

enter image description here

对于这里出了什么问题有什么想法吗?一次复制的文件数量有限制吗?

提前谢谢您。

最佳答案

正如 @Joel Cochran 所说,该问题可能是并发限制问题。
当我们选择Sequential时,复制事件将是单线程的。取消勾选,Copy事件将是多线程的,效率大大提高。

所以我们的解决方案是:

  1. 取消选中顺序
  2. 增加内部事件并行操作的最大数量。

enter image description here

关于azure - ADF 复制事件 FTP 源奇怪行为,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/65394967/

相关文章:

c# - 使用 Microsoft.ServiceBus.Messaging.MessageSession 许多消息 Complete()、Abort() 等

azure - 将旧的 azure 函数 API 迁移到新的 azure 函数而不更改 url

azure - 如何在azure powershell中查找特定的专用端点

azure - 如何将 Azure 自托管集成运行时连接到数据工厂专用终结点?

sql - 使用 Azure 数据工厂更新 SQL 表中的行

azure-data-factory - ADF - Web 事件 - 'String' 与字段 : 'body' 不匹配

sql-server - SQL Azure 数据库。使用非安全连接字符串登录

ios - 快速解析从 API 返回的 JSON 对象

azure-data-factory - 查看数据工厂 v2 调试运行的解决方法

Azure数据工厂: Invalid URI: The Uri scheme is too long