总体思路
在 CentOS 上，HDFS 的备份策略应在利用 HDFS 自身的高可用与容错能力基础上，叠加可验证的跨目录/跨集群/跨地域的备份手段，覆盖数据、元数据与配置三类资产，并通过周期与保留策略确保可恢复性。
策略分层与适用场景
| 层级 |
目标 |
主要手段 |
适用场景 |
关键配置/命令 |
| 数据层冗余 |
单集群内高可用 |
副本机制 dfs.replication（常用 3）、纠删码 Erasure Coding |
日常容错、降低节点故障影响 |
hdfs-site.xml 中设置 dfs.replication；对冷数据启用 EC |
| 时间点回滚 |
目录级快速回滚 |
HDFS Snapshot |
误删/误改后快速恢复 |
hdfs dfsadmin -allowSnapshot /path；hdfs dfs -createSnapshot /path snap1 |
| 集群间/异地备份 |
跨集群/跨地域容灾 |
DistCp 定期全量/增量复制 |
生产与灾备集群、跨机房/跨云 |
hadoop distcp -m 50 hdfs://src hdfs://dst |
| 对象存储落地 |
低成本长期留存/云上备份 |
DistCp/云存储网关 到 S3/MinIO |
合规留存、冷数据归档 |
distcp 到 s3a://bucket 或 MinIO 兼容接口 |
| 元数据备份 |
NameNode 元数据可恢复 |
进入安全模式并保存命名空间 saveNamespace；配合 SecondaryNameNode/HA |
NameNode 故障、迁移 |
hdfs dfsadmin -safemode enter；hdfs dfsadmin -saveNamespace |
| 配置与脚本 |
快速重建集群 |
打包 /etc/hadoop/conf 与备份脚本 |
集群重建、版本回滚 |
tar czvf hdfs-config-$(date +%F).tar.gz /etc/hadoop/conf |
| 上述手段分别由 HDFS 快照、复制因子、纠删码、DistCp、对象存储适配、NameNode 元数据保存与配置打包等实现，适用于不同强度与成本要求的备份目标。 |
|
|
|
|
推荐备份策略组合
- 组合 A（通用生产）：副本因子 3 + 关键业务目录启用 Snapshot（保留 7–30 天）+ 每周一次 DistCp 全量至备份集群/对象存储 + 每日增量（基于上次 DistCp 时间窗口）+ 配置文件每日备份与异地留存。
- 组合 B（成本优先/冷数据）：对冷数据启用 Erasure Coding + 每周 DistCp 全量归档至对象存储（生命周期策略转低频/归档）+ 关键目录 Snapshot（保留 7 天）+ 元数据与配置例行备份。
- 组合 C（高可靠/跨地域）：跨地域 DistCp 定期全量（如每周）+ 每日增量 + 目标端启用 Snapshot 做回滚缓冲 + 定期恢复演练与校验和比对。
实施要点与自动化
- 自动化调度：使用 cron 或调度平台定时执行 DistCp/快照/配置打包；脚本需记录日志、返回码与告警，保留至少 30 天。
- 数据校验：全量/增量后对比源与目标目录的 文件数/总大小/校验和（如 distcp -update -diff），并抽样 hdfs fsck 检查块健康。
- 监控告警：对 DistCp 失败、快照创建失败、NameNode 安全模式异常、磁盘/容量告警 建立监控与工单闭环。
- 变更窗口：在业务低峰期执行全量备份，必要时对关键目录短暂只读或避开批量写入窗口，减少一致性风险。
- 版本与兼容：明确 Hadoop 版本 与参数差异，变更前在测试环境演练；跨集群/跨云时统一 HDFS 兼容接口（如 s3a） 与权限模型。
恢复流程要点
- 快照恢复：对启用快照的目录，使用 hdfs dfs -cp /path/.snapshot/snap1 /path/restore 或 restoreSnapshot 将目录回滚至快照时点。
- DistCp 回灌：从备份集群/对象存储 DistCp 回拷到生产路径；增量场景使用 -update/-diff 仅同步差异。
- 元数据恢复：进入 安全模式，使用已保存的 命名空间镜像 恢复；结合 SecondaryNameNode/HA 元数据与编辑日志缩短恢复时间并提升成功率。
- 一致性校验：恢复后执行 hdfs fsck / 检查缺失/损坏块，抽样对比关键表/文件记录数与校验和，确保业务可用再切流。