azure - 为什么我的数据工厂管道没有过滤文件?

标签 azure etl azure-data-factory

我正在将数据从本地文件复制到 blob azure 存储。管道的第一部分正是如此,将最后修改的文件从本地提取到 blob 存储 (blob_input)。之后我遇到了问题。我有五分之一的文件没有实际数据,但只显示“无数据”,这使得无法传输到 sql,这是最终目标。因此,我将“复制数据”连接到我创建的过滤管道。但是,我的管道不会过滤掉该文件。有人可以告诉我我的管道缺少什么吗?我在下面添加了图片以使事情更清晰,但 Stackoverflow 不允许我发布更多内容,因此我创建了一个包含所有信息的谷歌文档 Files and Path forEach1 forEach2 forEach3 lookup1 ifcondition1 copydata1 copydata2

最佳答案

我重现了您的场景,导致过滤文件仅包含无数据的问题是您使用第一行作为标题,然后该文件的查找计数为 0,不等于为 1,因为它没有过滤掉该文件。

要解决此问题,您可以尝试:

这个条件 @greater(activity('Lookup1').output.count,0),如果查找计数大于0,则会过滤文件。 enter image description here

输出 复制事件不会从 daily4 文件中复制数据,因为它具有像您一样的示例输入,并且在 if 条件下失败。 enter image description here

enter image description here

关于azure - 为什么我的数据工厂管道没有过滤文件?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/74145376/

相关文章:

azure - 如何使用 Azure 数据工厂展平嵌套 JSON 结构

asp.net-mvc - 发布的 ASP.NET MVC 5 应用程序具有组织帐户身份验证重定向回本地主机

python - 使用 Python 处理一个巨大的 CSV 时, 'killed' 是什么意思,突然停止?

azure - 通过 ADF 将 Netsuite 数据引入 ADLS

c# - 如何访问数据流脚本组件中现有的 ADO.NET 连接管理器

sql-server - 将 CSV 导入 SQl Server 2005 的最简单方法

azure - 将特定值映射到 Azure 数据工厂中参数化复制事件中的列

azure - 有 ADFv2 的发行说明吗?

azure - Azure Bitnami 中的 tomcat 或 root 密码

mysql - AKS MySQL SSL 问题(nodejs、knex)