azure - 如何从事件访问管道属性和数据集属性

标签 azure azure-data-factory

我找到了这个文档,Azure Data Factory - Functions and System Variables ,但是它没有显示我如何访问其他项目。例如管道的名称,以便我可以将其作为属性值传递,例如在 SqlServerStoredProcedure 中,或作为创建路径的一部分等。

我希望能够在此“source”中添加管道名称(或管道的其他属性):“$$Text.Format('{0}/scored/{1:yyyy}/{1:MM}/{1:dd}/ActivityMetrics_NameAndResult_AD_Scored_{1:yyyy}_{1:MM}_{1:dd}.tsv', PipelineName, SliceStart)"

我也希望能够引用输入/输出数据集的属性,

"destination":"OTEL_ActivityMetrics_NameAndResult_Scored",

在这里我希望能够引用InputDataSet的tableName属性。

为什么: 我们希望在管道期间记录某些操作,我们有一系列报告和警报工具来查看此历史记录和/或缺乏历史记录,目前这些是硬编码的,这将导致我们必须通过更多方式生成它们复杂的过程或者有时会出错并且不容易被注意到。例如,除了下面的示例之外,我们还调用一个采用表名的重建索引存储过程,我可以将事件从一个管道复制到另一个管道,但忘记更改storedProcedureParameter,

        {
            "type": "SqlServerStoredProcedure",
            "typeProperties": {
                "storedProcedureName": "LogDataMovement",
                "storedProcedureParameters": {
                    "sliceStart": "$$Text.Format('{0:yyyy-MM-dd HH:mm}', SliceStart)",
                    "movementType": "Blob->Sql",
                    "source": "$$Text.Format('{0}/scored/{1:yyyy}/{1:MM}/{1:dd}/ActivityMetrics_NameAndResult_AD_Scored_{1:yyyy}_{1:MM}_{1:dd}.tsv', PipelineName, SliceStart)",
                    "destination":"OTEL_ActivityMetrics_NameAndResult_Scored",
                    "pipeline": "ActivityMetricsNameAndResult_AzureSQL"
                }
            },
            "inputs": [
                {
                    "name": "DS_ASQL_ActivityNameAndResult_AD_Scores"
                }
            ],
            "outputs": [
                {
                    "name": "DS_SQL_DataMovement_NameAndResult_Scored"
                }
            ],
            "scheduler": {
                "frequency": "Day",
                "interval": 1
            },
            "name": "Log Data Movement"
        },

最佳答案

如今,Azure 数据工厂系统和函数变量是管道内唯一可访问的内容。您无法访问管道名称并将其作为变量传递。我们正在努力发展 ADF 中的应用程序模型以支持此类构造。随着我们取得更多进展并进行这些更新,我们将及时向社区通报最新情况。

关于azure - 如何从事件访问管道属性和数据集属性,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/40381472/

相关文章:

azure - 与 Azure Active Directory 的链接服务 - 密码

azure - 遵循 Windows Azure 文档时,IP 限制不起作用

azure - 在 Azure 上暂存或登陆

azure-data-factory - Azure 数据工厂 - 获取 Web 事件输出的 HTTP 状态

azure - 获取文件夹[Azure数据工厂]中最新添加的文件

Azure 数据工厂 UI - 作者和监视器不加载

Azure Cosmos DB 相关子查询未按预期工作

c# - 使用 Entity Framework 6 中的环境变量在暂存/生产数据库之间切换

javascript - 用于用户身份验证的 Azure AD B2C REST API 终结点

Azure 服务配置错误