hadoop - 关闭电源后重新启动hadoop HA群集节点后,名称节点失败

标签 hadoop apache-zookeeper failover

我设置了具有2个名称节点和日记节点的HA hadoop群集,并具有自动故障转移控制功能。以namenode格式启动时,启动会很好。但是在重新启动群集时失败。我还尝试按顺序启动集群。

  • 启动所有日记节点
  • 启动 Activity 名称节点
  • 启动备用节点(使用 bootstrap )和起始名称节点
  • 在所有节点上启动zkserver
  • 启动所有数据节点。
  • 在 Activity 节点上使用
  • 格式zkfc,然后启动
  • 在备用节点上使用
  • 格式zkfc,然后启动。

  • 它可以正常工作,直到第5阶段并且所有节点都已启动(两个名称节点都已启动并处于备用状态)。当我启动zkfc时,名称节点失败并得到未格式化的错误日志节点。

    (在此步骤之前,我通过格式化 Activity 名称节点成功启动了安装程序,在第二次启动时,我在步骤2中删除了名称节点格式):

    关闭并重新启动后如何启动安装程序?
    <configuration>
    <property>
    <name>dfs.namenode.name.dir</name>
    <value>file:///usr/local/hadoop/data/nameNode</value>
    <final>true</final>
    </property>
    
    <property>
    <name>dfs.datanode.data.dir</name>
    <value>file:///usr/local/hadoop/data/dataNode</value>
    <final>true</final>
    </property>
    
    <property>
    <name>dfs.replication</name>
    <value>2</value>
    </property>
    
    <property>
    <name>dfs.permissions</name>
    <value>false</value>
    </property>
    
    <property>
    <name>dfs.nameservices</name>
    <value>ha_cluster</value>
    </property>
    
    <property>
     <name>dfs.ha.namenodes.ha_cluster</name>
     <value>sajan,sajan2</value>
     </property>
    
     <property>
     <name>dfs.namenode.rpc-address.ha_cluster.sajan</name>
     <value>192.168.5.249:9000</value>
     </property>
    
     <property>
     <name>dfs.namenode.rpc-address.ha_cluster.sajan2</name>
     <value>192.168.5.248:9000</value>
     </property>
    
     <property>
     <name>dfs.namenode.http-address.ha_cluster.sajan</name>
     <value>192.168.5.249:50070</value>
     </property>
    
     <property>
     <name>dfs.namenode.http-address.ha_cluster.sajan2</name>
     <value>192.168.5.248:50070</value>
     </property>
    
     <property>
     <name>dfs.namenode.shared.edits.dir</name>
     <value>qjournal://192.168.5.249:8485;192.168.5.248:8485;192.168.5.250:8485/ha_cluster</value>
     </property>
     <property>
     <name>dfs.client.failover.proxy.provider.ha_cluster</name>
     <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
     </property>
     <property>
     <name>dfs.ha.automatic-failover.enabled</name>
     <value>true</value>
     </property>
     <property>
     <name>ha.zookeeper.quorum</name>
     <value>192.168.5.249:2181,192.168.5.248:2181,192.168.5.250:2181,192.168.5.251:2181,192.168.5.252:2181,192.168.5.253:2181</value>
     </property>
     <property>
     <name>dfs.ha.fencing.methods</name>
     <value>sshfence</value>
     </property>
     <property>
     <name>dfs.ha.fencing.ssh.private-key-files</name>
     <value>/home/hadoop/.ssh/id_rsa</value>
     </property>
    
    </configuration>
    

    最佳答案

    如果要停止服务,请使用以下命令。我花了2个工作日才能解决这个问题。

  • 停止所有名称节点。
  • 停止所有日志节点。
  • 停止所有数据节点。
  • 停止故障转移服务。
  • 停止zkserver
  • 关于hadoop - 关闭电源后重新启动hadoop HA群集节点后,名称节点失败,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56381924/

    相关文章:

    postgresql - 如何让 pcp 自动将节点附加到 postgres pgpool?

    hadoop - Hortonworks练习考试-将文件从本地计算机复制到hdfs错误

    java - 如何获取和查看从HDFS到本地系统的Oracle BLOB(图像)数据?

    hadoop - 合并和覆盖 pig 中的数据集

    java - ZooKeeper 摘要式身份验证 - 安全替代方案?

    Couchbase - 如果节点在将数据写入磁盘之后但在复制之前死亡,会发生什么情况

    Hadoop MapReduce 提供嵌套目录作为作业输入

    amazon-web-services - AWS 上的 Kafka 消费问题

    apache-kafka - 处理时得到用户级 KeeperException

    asp.net - 如何使用 ASP.Net 集群上传文件夹?