hadoop - 在发送到S3之前,YARN应用程序日志在哪里存储在EMR中

标签 hadoop logging yarn amazon-emr

我需要将来自EMR的Yarn应用程序日志写入S3以外的其他来源。.请问我在EMR主实例中保存应用程序日志的位置是什么

最佳答案

如果将应用程序作为步骤提交给emr,则日志将位于:

/var/log/hadoop/steps/<<step-id>>/<<log-file>>

大多数emr日志都可以在主节点的/var/logs目录下找到

您还可以使用yarn cli来获取应用程序日志,并将返回的日志流重定向到文件以执行您想要的任何操作。
yarn logs -applicationId <<application_id>> > application_log_file.log 

关于hadoop - 在发送到S3之前,YARN应用程序日志在哪里存储在EMR中,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52940633/

相关文章:

logging - nginx 中的匿名 IP 日志记录?

mysql - golang gorm 访问底层mysql查询

hadoop - 具有HA功能的Hadoop Yarn集群上的Apache Spark部署

apache-spark - 为什么 Spark(在 Google Dataproc 上)不使用所有 vcore?

java - 将 Mapper 替换为 MultithreadMapper 时,映射中的键类型不匹配

hadoop - 水槽代理抛出调试,可能是什么问题?

c# - ASP.NET Core 2+ 中的 ILogger 和 DependencyInjection

api - 我应该编写YARN应用程序hadoop 2.6.0吗?

linux - 如何删除名称中含有Windows特殊字符(^M)的HDFS文件夹

mysql - SQOOP 导出 CSV 到 MySQL 失败