Ubuntu HDFS如何恢复配置

Ubuntu 上 HDFS 配置恢复实用指南

一 恢复前准备

• 明确恢复目标：是仅恢复配置文件（如 core-site.xml、hdfs-site.xml），还是连同 NameNode 元数据目录 dfs.namenode.name.dir 一起恢复。
• 准备可用的备份：优先使用最近一次已验证的配置备份与（如涉及）NameNode 元数据备份；若启用 HA，确认 JournalNode 与 ZooKeeper 状态或备份是否可用。
• 规划停机窗口：配置恢复通常需滚动重启相关守护进程；涉及元数据目录恢复时，需停止集群以避免写冲突。
• 校验备份一致性：对配置文件做md5/sha256 校验；对元数据目录核对关键文件（如 fsimage、edits）是否完整可读。

二 仅配置文件恢复步骤

• 定位配置目录：通常为 $HADOOP_HOME/etc/hadoop/（如 /usr/local/hadoop/etc/hadoop/），备份当前配置：
  • 备份：sudo cp -a $HADOOP_HOME/etc/hadoop{,.bak_$(date +%F-%H%M%S)}
• 恢复配置：
  • 覆盖恢复：sudo cp -a /path/to/backup/hadoop/* $HADOOP_HOME/etc/hadoop/
  • 逐文件比对：优先恢复 core-site.xml、hdfs-site.xml，再按需恢复 yarn-site.xml、mapred-site.xml、workers 等。
• 权限与属主：
  • 建议以 hdfs 用户或具备相应权限的用户执行：sudo chown -R hdfs:hadoop $HADOOP_HOME/etc/hadoop
• 使配置生效（滚动重启，避免全停）：
  • 先重启 JournalNode（如启用 HA）：sudo systemctl restart hadoop-hdfs-journalnode
  • 再重启 NameNode：sudo systemctl restart hadoop-hdfs-namenode
  • 最后重启 DataNode：sudo systemctl restart hadoop-hdfs-datanode
  • 如启用 ZooKeeper Failover Controller（HA）：sudo systemctl restart hadoop-hdfs-zkfc
• 验证：
  • 查看进程：jps | grep -E ‘NameNode|DataNode|JournalNode|ZKFC’
  • 检查集群健康：hdfs dfsadmin -report
  • 检查客户端连通：hdfs dfs -ls /
• 回滚预案：若异常，立即用备份目录还原：sudo cp -a $HADOOP_HOME/etc/hadoop.bak_YYYY-MM-DD-HHMMSS/* $HADOOP_HOME/etc/hadoop/，再按上述顺序重启相关服务。

三 从备份恢复 NameNode 元数据目录

• 适用场景：配置正确但 NameNode 元数据损坏/丢失（如 dfs.namenode.name.dir 被误删或磁盘损坏）。
• 基本流程（非 HA 单节点示例）：
  • 停止集群：sudo systemctl stop hadoop-hdfs-*
  • 进入安全模式并做一致性快照（如条件允许）：sudo -u hdfs hdfs dfsadmin -safemode enter && sudo -u hdfs hdfs dfsadmin -saveNamespace
  • 备份当前元数据目录（若存在残余）：sudo mv $DFS_NAME_DIR/current $DFS_NAME_DIR/current.bak_$(date +%F-%H%M%S)
  • 恢复备份：sudo cp -a /path/to/nn_backup/current $DFS_NAME_DIR/
  • 修复属主：sudo chown -R hdfs:hdfs $DFS_NAME_DIR/current
  • 退出安全模式并启动：sudo -u hdfs hdfs dfsadmin -safemode leave && sudo systemctl start hadoop-hdfs-namenode
  • 验证：hdfs dfsadmin -report、hdfs dfs -ls /
• 从 SecondaryNameNode 恢复（当 NameNode 元数据损坏且 SNN 有较新合并镜像时）：
  • 将 SNN 的 dfs.namenode.checkpoint.dir 内容拷贝到 dfs.namenode.name.dir/current，必要时使用 -importCheckpoint 导入检查点，再启动 NameNode 并校验一致性。
• 从 JournalNode 恢复缺失的 EditLog（非 HA 或迁移场景）：
  • 将 JournalNode 的 current/edits_* 拷贝至 NameNode 的 dfs.namenode.name.dir/current（避免覆盖已有文件），再启动 NameNode 并检查日志是否一致。
• 重要提示：元数据恢复务必在停止写入的前提下进行，恢复后优先做 fsck 与 report 校验，确认块与副本健康。

四 HA 与非 HA 切换时的配置恢复要点

• 从 HA 切换为非 HA（或反向）时，除替换 core-site.xml/hdfs-site.xml 外，还需清理或调整相关状态：
  • 清理 ZooKeeper 中的 HA 节点（示例 ZK 根 /hadoop-ha 下对应集群节点），避免 Failover 误判。
  • 清理 JournalNode 数据目录（如不再使用 HA），防止启动时报错或元数据冲突。
  • 如保留备用 NameNode 的数据目录，确认是否需要清理，避免 Active/Standby 元数据不一致。
  • 同步配置到所有节点并滚动重启相关守护进程，最后用 hdfs dfsadmin -report 与 zkfc 状态校验切换结果。

五 常见恢复场景与命令速查

• 回收站恢复（误删文件）：
  • 查看回收站：hdfs dfs -ls /user//.Trash/Current
  • 恢复文件：hdfs dfs -mv /user//.Trash/Current/<file_path> <target_path>
  • 注意：回收站保留时间由 fs.trash.interval（单位：分钟）控制，超时将被自动清理。
• 快照恢复（需提前启用快照）：
  • 启用快照：hdfs dfsadmin -allowSnapshot
  • 创建快照：hdfs dfs -createSnapshot <snapshot_name>
  • 恢复文件：hdfs dfs -cp /.snapshot/<snapshot_name>/<file_path> <target_path>
• 编辑日志分析定位问题（元数据层问题排查）：
  • 解析正在写入的 EditLog：hdfs oev -i edits_inprogress_0000000000000000023 -o edits_inprogress_0000000000000000023.xml
  • 通过解析结果确认删除/重命名等操作的 TXID 与时间戳，辅助从回收站或快照找回数据。