Ubuntu下Hadoop备份策略有哪些

Ubuntu下Hadoop备份策略全览

一 策略总览与适用场景

二 关键策略与实施要点

• HDFS多副本冗余
  • 通过提高副本数提升本地容错，默认三副本（dfs.replication=3）。适合大多数稳态业务；注意副本因子增加会提升存储和网络开销。
• HDFS快照 Snapshot
  • 对关键目录启用快照，发生误操作时可快速回滚到快照点：hdfs dfsadmin -allowSnapshot ；hdfs dfs -createSnapshot ；恢复可用 hdfs dfs -cp /. 。快照仅覆盖已启用路径，建议对核心业务目录单独规划。
• DistCp跨集群/跨机房备份
  • 使用 hadoop distcp 在集群间或到对象存储/远端HDFS做定期/持续备份，适合灾备与迁移。注意：长时间运行会占用 YARN 资源；跨机房需保证网络稳定；一般按“重要目录”做增量/全量策略。
• NFS共享目录落地NameNode元数据
  • 在Ubuntu上部署 NFS Server（apt-get install nfs-kernel-server），在NameNode将 dfs.name.dir 增加挂载点（如 /home/hadoop/nfs），实现元数据多一份落地。优点是简单；风险在于共享存储本身可能成为单点，需配合监控与切换流程。
• Pacemaker+DRBD/旧版AvatarNode双机热备
  • 通过 Pacemaker 管理 VIP 与 NameNode/JobTracker 资源，配合 DRBD 实现块设备级数据同步，实现主备自动切换（实测切换约30s）。早期 AvatarNode 方案也提供主备，但依赖 NFS 共享事务日志，存在单点风险。适合对RTO要求较高的场景。
• 云备份 CBR/HDFS备份服务
  • 在云上创建 Hadoop虚拟客户端，可用 NameNode IP 或 HDFS URL 接入；高可用集群建议用URL以避免主备漂移导致任务失败。开启 Kerberos 需提供 Keytab。可配置按周/月/年的保留策略（如：按周保留24个副本、按月12个、按年4个）。
• 配置与脚本自动化
  • 定期备份 /etc/hadoop/conf 等配置：tar -czvf hdfs-config-$(date +%F).tar.gz /etc/hadoop/conf；结合 cron 定时执行；对关键目录使用 DistCp/快照形成可回滚的时间点副本。

三 备份策略组合建议

• 单机/测试环境：HDFS多副本 + 关键目录快照 + 配置定时打包。
• 生产同城双机房：启用 HA（QJM/ZKFailoverController）+ 核心业务目录快照 + 跨机房 DistCp 定期备份到远端集群/对象存储。
• 跨城/异地灾备：主备集群 + 持续/定时的 DistCp 增量同步到异地集群；或采用云备份服务统一管理保留策略与恢复。
• 高可用优先：NameNode 采用 Pacemaker+DRBD 或厂商HA方案，元数据与关键配置双路落地，定期演练切换与恢复流程。

四 恢复与演练要点

• 快照恢复：确认快照存在后，用 hdfs dfs -cp <snap_dir>/. 回滚到快照点；仅对启用快照的路径有效。
• DistCp恢复：从远端/历史备份路径 distcp 回当前集群，先小范围验证再全量恢复；注意目录权限与配额。
• 云备份恢复：在备份平台选择时间点/保留副本执行恢复；Kerberos 环境提前准备 Keytab；若用 NameNode IP 方式接入，主备漂移后需更新客户端配置，建议优先用 HDFS URL。
• 一致性校验：恢复后用 hdfs fsck 检查块健康，必要时结合业务侧校验和/行数核对；对关键库表可抽样对比。