hadoop - 尽管Hadoop已启动,但Map Reduce作业卡住了

标签 hadoop hadoop-2.7.2

我安装了一个四节点hadoop集群。在hadoop Webui中,我可以看到所有的datanode和namenodes都已启动并正在运行。但是,当我在 hive 中运行select count(*) from table_name;时,查询卡住了。

hive> select count(*) from test_hive2;
Query ID = dssbp_20160804124833_ff269da1-6b91-4e46-a1df-460603a5cb98
Total jobs = 1
Launching Job 1 out of 1
Number of reduce tasks determined at compile time: 1
In order to change the average load for a reducer (in bytes):
  set hive.exec.reducers.bytes.per.reducer=<number>
In order to limit the maximum number of reducers:
  set hive.exec.reducers.max=<number>
In order to set a constant number of reducers:
  set mapreduce.job.reduces=<number>

我不断在我的datanode节点管理器日志和配置单元日志中遇到的错误是:
2016-08-04 12:33:31,474 INFO org.apache.hadoop.ipc.Client: Retrying connect to server: namenode1/172.18.128.24:6005. Already tried 8 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS)

我检查过的东西:

1,可以从数据节点到名称节点进行远程登录
2.可以执行hadoop put和get命令。
3.可以在配置单元中创建表并向其中加载数据。
cat /etc/hosts
127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
#::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
172.18.128.24   namenode1 mycluster
172.18.128.25  namenode2
172.18.128.26  datanode1
172.18.128.27  datanode2

如果有人可以提出可能的解决方案,那将是极大的帮助。

问候,
兰扬

最佳答案

我能够解决该问题,因为资源管理器存在一些问题,并且从数据节点无法连接到该端口172.18.128.24:6005。

关于hadoop - 尽管Hadoop已启动,但Map Reduce作业卡住了,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/38761266/

相关文章:

java - java中设置HDFS的空间配额

java - 对 hadoop 作业跟踪器 api 的困惑

java - yarn : Containers and JVM

Hadoop 2.7.2 - 错误 : Could not find or load main class org. apache.hadoop.hdfs.server.namenode.NameNode

hadoop - 启动配置单元时出现 nucleusexception 和 jdofatalexception 错误

hadoop -/etc/bin/hadoop 是同步调用吗?

json - 使用关键 HAWQ 的数据即服务

hadoop - 在 Ambari 上设置集群时确认单节点集群的主机失败