aws-lambda - 有没有办法在 AWS Glue 作业结束时触发 AWS Lambda 函数?

标签 aws-lambda etl aws-glue

目前我正在使用 AWS Glue 作业将数据加载到 RedShift,但在加载之后我需要运行一些可能使用 AWS Lambda 函数的数据清理任务。有没有办法在 Glue 作业结束时触发 Lambda 函数?可以使用 SNS 消息触发 Lambda 函数,但我找不到在 Glue 作业结束时发送 SNS 的方法。

最佳答案

@ore​​oluwa 是对的,这可以使用 Cloudwatch Events 来完成。

从 Cloudwatch 仪表板:

  • 单击左侧菜单中的“规则”
  • 对于“事件源”,选择“事件模式”并在“服务名称”中选择“胶水”
  • 对于“事件类型”,选择“胶水作业状态更改”
  • 在页面右侧的“目标”部分,单击“添加目标”->“Lambda 函数”,然后选择您的函数。

  • 您将在 Lambda 中获得的事件将采用以下格式:
    {
        'version': '0',
        'id': 'a9bc90be-xx00-03e0-9bc5-a0a0a0a0a0a0',
        'detail-type': 'GlueJobStateChange',
        'source': 'aws.glue',
        'account': 'xxxxxxxxxx',
        'time': '2018-05-10T16: 17: 03Z',
        'region': 'us-east-2',
        'resources': [],
        'detail': {
            'jobName': 'xxxx_myjobname_yyyy',
            'severity': 'INFO',
            'state': 'SUCCEEDED',
            'jobRunId': 'jr_565465465446788dfdsdf546545454654546546465454654',
            'message': 'Jobrunsucceeded'
        }
    }
    

    关于aws-lambda - 有没有办法在 AWS Glue 作业结束时触发 AWS Lambda 函数?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49034554/

    相关文章:

    javascript - 访问其他文件中的 Lambda 上下文对象

    elasticsearch - 使用 ElasticSearch 和 Kibana 实现商业智能

    python - 使用 Python 将大型压缩 JSON 文件从 Amazon S3 导入 AWS RDS-PostgreSQL

    sql-server - 如何将具有两个标题的混合记录类型固定宽度文件加载到两个单独的文件中

    amazon-web-services - 如何在cloudformation模板中生成并插入ssh公钥定义?

    amazon-web-services - Glue AWS 在 boto3 python 上创建数据目录表

    node.js - 模块初始化错误 : Error at Object. fs.openSync (fs.js :646:18) at Object. fs.readFileSync (fs.js:551:33)

    node.js - 如何在 Node 中访问 Lambda 中的/tmp 文件夹?

    amazon-web-services - 带有视频缩略图的 Lambda node.js 函数

    amazon-web-services - 如何在 CloudFormation 模板中获取 Glue 开发端点 URL?