java - hadoop 2.7.2 多节点中的作业历史记录 webui-19888 在作业完成后不显示任何内容

标签 java maven hadoop hadoop-yarn hadoop2

当我在 hadoop2.7.2 中用 2 个从站运行作业后,我可以在终端中看到结果,但在 master:19888/jobhistory 中什么也没有。我上传了图片和我的配置文件。 job history webui 19888

这是我的配置文件。 core.site.xml

<property>
    <name>fs.default.name</name>
    <value>hdfs://master:9000</value>    
</property>

   <property>
    <name>hadoop.tmp.dir</name>
    <value>/app/hadoop/tmp</value> 
</property>

hdfs.site.xml

<property>
<name>dfs.replication</name>
<value>2</value>
</property>

<property>
<name>dfs.name.dir</name>
<value>file:/usr/local/hadoop/hadoop_tmp/hdfs/namenode</value>
</property>

<property>
<name>dfs.data.dir</name>
<value>file:/usr/local/hadoop/hadoop_tmp/hdfs/datanode</value>
</property>

mapred.site.xml

<property>
    <name>mapred.job.tracker</name>
    <value>master:54311</value>    
</property>

<property>
    <name>mapred.framework.name</name>
    <value>yarn</value>
</property>

<property>
<name>mapred.jobhistory.address</name>
<value>master:10020</value>
</property>

yarn.site.xml

<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>


<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>

<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master:8025</value>
</property>

<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>master:8035</value>
</property>

<property>
<name>yarn.resourcemanager.address</name>
<value>master:8050</value>
</property>

最佳答案

该属性是 mapred-site.xml 中的 mapreduce.framework.name

<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>

当前属性mapred.framework.name无效且无法识别。因此,作业以本地模式提交。 jobhistoryserver 不会跟踪本地运行的作业。

修改属性名称并重新启动服务。

关于java - hadoop 2.7.2 多节点中的作业历史记录 webui-19888 在作业完成后不显示任何内容,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42680204/

相关文章:

java - 如何使用 JAVA_OPTS 环境变量?

java - 如何在java中的excel文件的同一张表中插入带有值的新行

java - Spring Project 如何显示语言

java - 使用 Jenkins 内部版本号安装/部署 Maven

hadoop - 仅从masrer节点Windows 10运行Hadoop集群

hadoop - Jaspersoft iReport - 如何设置 Hive 查询的缩减器数量?

Java String Regex 分割并捕获分割部分

java - 调试时 JVM 热插拔最佳实践

java - 如何覆盖父级 Maven 项目中定义的插件

linux - 使用本地存储库的 Ambari 蓝图安装 (HDP)