Hadoop于Linux如何进行备份恢复

Hadoop在Linux上的备份与恢复实践

一 核心备份恢复手段

• HDFS 快照 Snapshot：对指定目录创建只读时间点副本，适合快速回滚目录级变更；需先允许快照，再创建与回滚。
• DistCp 跨集群/跨路径复制：基于 MapReduce 的高效批量复制工具，适合全量/增量备份与迁移（支持 -update/-diff 等增量策略）。
• 回收站 Trash：误删后优先检查用户目录下的 .Trash/Current，可快速“撤销删除”。
• NameNode 元数据备份：对 fsimage 与 edits 做离线拷贝，用于 NN 故障/迁移/回滚 的权威恢复。
• Hive Metastore 与关系库备份：Hive 表结构/分区等元数据常驻 MySQL/MariaDB，需用 mysqldump 等做库级备份与恢复。
• 配置与脚本备份：定期归档 /etc/hadoop/conf 等配置，便于灾难恢复与一致性回滚。

二 关键操作步骤

• HDFS 快照
  • 允许快照：hdfs dfsadmin -allowSnapshot /path/to/dir
  • 创建快照：hdfs dfs -createSnapshot /path/to/dir snap_20251116
  • 列出快照：hdfs dfsadmin -listSnapshots /path/to/dir
  • 回滚恢复：hdfs dfs -cp /path/to/dir/.snapshot/snap_20251116/file_or_dir /path/to/restore
• DistCp 备份与恢复
  • 备份：hadoop distcp hdfs://src hdfs://backup
  • 恢复：hadoop distcp hdfs://backup hdfs://recovered
  • 增量：hadoop distcp -update hdfs://src hdfs://backup
• 回收站恢复
  • 查看：hdfs dfs -ls /user/$USER/.Trash/Current
  • 恢复：hdfs dfs -mv /user/$USER/.Trash/Current/deleted /path/to/restore
• NameNode 元数据备份与恢复
  • 备份：
    1. 进入安全模式：sudo -u hdfs hdfs dfsadmin -safemode enter
    2. 落盘 fsimage 并重置 edits：sudo -u hdfs hdfs dfsadmin -saveNamespace
    3. 拷贝元数据目录：sudo -u hdfs cp -r /dfs/nn ./nnbak/
  • 恢复：
    1. 退出安全模式：sudo -u hdfs hdfs dfsadmin -safemode leave
    2. 备份现有 current：sudo -u hdfs mv /dfs/nn/current /dfs/nn/current.bak
    3. 拷回备份：sudo -u hdfs cp -r nnbak/current /dfs/nn/
    4. 修复属主：sudo -u hdfs chown hdfs:hdfs -R /dfs/nn/current
    5. 启动 NameNode 并验证
• Hive Metastore 备份与恢复
  • 备份：mysqldump -uroot -p --databases metastore > metastore_$(date +%F).sql
  • 恢复：mysql -uroot -p < metastore_$(date +%F).sql
• 配置与脚本备份
  • 打包：tar czvf /backup/hdfs-config-$(date +%Y%m%d%H%M%S).tar.gz /etc/hadoop/conf
  • 还原：tar xzvf /backup/hdfs-config-*.tar.gz -C /

三 策略与频率建议

• 分层策略：
  • 近线/在线：HDFS 快照（目录级、低开销、分钟/小时级回滚）
  • 近线/离线：DistCp 全量 + 增量（跨集群/跨机房，按日/周）
  • 远程灾备：跨集群复制（跨地域，保障区域性灾难恢复）
  • 兜底：NameNode 元数据离线备份（fsimage/edits，定期与变更前后）
• 副本与纠删码：保持合理 dfs.replication（常见为3）或在合适场景启用 Erasure Coding 以优化存储与容错。
• 自动化与演练：用 cron 调度备份脚本，定期做恢复演练与校验（计数、校验和、抽样对比）。

四 常见故障与恢复要点

• 误删文件：优先检查 .Trash/Current 并 mv 回原路径；若已过期，转用快照或 DistCp 备份恢复。
• 块丢失/副本不足：用 hdfs fsck / 检查健康，定位缺失块；必要时提高副本数或重新复制数据。
• NameNode 元数据损坏/回滚：使用已保存的 fsimage 与 edits 进行恢复，严格按“安全模式—落盘—替换—改属主—启动”的顺序执行。
• Hive 元数据异常：从 MySQL/MariaDB 备份恢复对应库（如 metastore），再重启 Hive 服务。

五 注意事项与风险提示

• 快照不是异地灾备：仅对启用快照的目录有效，不能替代跨集群/跨地域的 DistCp/跨集群复制。
• SecondaryNameNode ≠ 完整备份：它是检查点辅助，不能替代 fsimage+edits 的权威恢复流程。
• 变更窗口与权限：备份/恢复期间注意业务窗口与权限一致性（属主/ACL），避免恢复后访问异常。
• 先备份再操作：任何恢复动作前，先对现有状态做一次离线备份，以便回滚。
• 生产环境建议先在测试环境演练，并保留多份、异地备份与校验记录。