hadoop - 为什么带有 YARN 的 Mapreduce 卡在 CDH 5.3 上?

标签 hadoop hadoop-yarn cloudera-cdh

使用 YARN 的 Mapreduce 无法领先于 0% map 和 0% reduce。我在谷歌计算高内存实例(13 GM RAM)上使用 Cloudera CDH。机器上有 8 GB 可用内存。你能帮我解决一下吗?

sunny@hadoop-m:~$ hadoop jar /opt/cloudera/parcels/CDH-5.3.0-1.cdh5.3.0.p0.30/jars/hadoop-mapreduce-examples-2.5.0-cdh5.3.0.jar  grep input output 'dfs[a-z.]+'
14/12/24 00:13:53 INFO client.RMProxy: Connecting to ResourceManager at hadoop-m.c.sunny-hadoop-trial.internal/10.240.253.233:8032
14/12/24 00:13:53 WARN mapreduce.JobSubmitter: No job jar file set.  User classes may not be found. See Job or Job#setJar(String).
14/12/24 00:13:54 INFO input.FileInputFormat: Total input paths to process : 5
14/12/24 00:13:54 INFO mapreduce.JobSubmitter: number of splits:5
14/12/24 00:13:54 INFO mapreduce.JobSubmitter: Submitting tokens for job: job_1419360146634_0001
14/12/24 00:13:54 INFO mapred.YARNRunner: Job jar is not present. Not adding any jar to the list of resources.
14/12/24 00:13:54 INFO impl.YarnClientImpl: Submitted application application_1419360146634_0001
14/12/24 00:13:55 INFO mapreduce.Job: The url to track the job: http://hadoop-m.c.sunny-hadoop-trial.internal:8088/proxy/application_1419360146634_0001/
14/12/24 00:13:55 INFO mapreduce.Job: Running job: job_1419360146634_0001

资源管理器输出 enter image description here 一些关于工作的更多信息 enter image description here

yarn-site.xml:http://pastebin.mozilla.org/8113782
mapred-site.xml:http://pastebin.mozilla.org/8113813

最佳答案

由于 DHCP 服务,服务器的 IP 已更改。 HDFS 和 YARN 的客户端配置变得陈旧。我需要更新客户端配置,我使用 Cloudera 管理器进行了更新,现在集群运行良好。

关于hadoop - 为什么带有 YARN 的 Mapreduce 卡在 CDH 5.3 上?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27626328/

相关文章:

Hadoop MapReduce (Yarn) 使用不同功率/规范的主机

hadoop - 在 Cloudera Hadoop 上设置 Lzo 时无法加载 native-lzo 库

hadoop - 现有 CDH 5.5.2 集群上的 Kafka 配置

hadoop - Hive 创建/用户/hive/仓库失败

apache - Apache Ranger检查安装的版本

Hadoop+Spark - 一旦应用程序正常启动一次就会显示错误

hadoop - 找不到带有 key dfs.encryption.key.provider.uri 的 uri 以在 CDH 5.4 的 HDFS 加密中创建 key 提供程序

hadoop - 如何通过 Cloudera Manager 启用 webhdfs?

hadoop - 自定义hadoop键和值: How to write CompareTo() Method

java - hadoop 和 yarn 的 Maven 依赖项