Linux Hadoop如何进行版本升级

Linux Hadoop版本升级实操指南

一 升级策略与前置检查

• 明确升级路径：HDFS 升级常见有两种方式——Express Upgrade（停服）与Rolling Upgrade（滚动，尽量不停服）。生产环境通常优先选择Rolling Upgrade以降低业务中断风险。升级前务必阅读目标版本的官方升级说明与不兼容变更。
• 版本与依赖：确认当前与目标版本，检查 Java 版本与其他依赖的兼容性（如 native 库、压缩库等）。
• 备份与检查：完整备份 NameNode 元数据目录 dfs.namenode.name.dir、关键配置文件（如 core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml、hadoop-env.sh）及必要的业务数据；确保磁盘空间充足。
• 回滚预案：规划回滚策略（如 RollingUpgrade 的Rollback与Rolling Downgrade），并准备演练环境验证。

二 标准升级步骤

• 停写与同步：在升级窗口内停止新作业提交，等待正在运行的作业完成或妥善处置；确保集群处于健康状态。
• 备份元数据与配置：备份 dfs.namenode.name.dir 与配置文件；如使用 HDFS Federation，分别备份各 NameService 的元数据。
• 安装新版本：在所有节点下载并解压新版本 Hadoop，或采用滚动替换方式逐台升级；更新 HADOOP_HOME 与 PATH 等环境变量。
• 分发配置：将旧版本配置迁移至新版本目录，按新版本要求调整参数（如端口、路径、类路径、权限与安全配置等）。
• 执行升级：
  • 非 HA 场景：使用命令启动升级流程（例如：start-dfs.sh -upgrade），并通过 hdfs dfsadmin -upgradeProgress 查看进度与详情。
  • HA 场景：遵循官方步骤，在 Active/Standby NN 上按顺序执行升级操作，确保 ZooKeeper 与 JournalNode 正常。
• 验证与回滚窗口：升级完成后进行功能性验证（如列出 HDFS、提交测试作业、核对监控指标与日志）；若发现问题，按预案执行回滚（如 -rollback 或 RollingDowngrade），确认无误后再进入下一步。
• 完成升级：在确认新版本稳定运行后执行finalizeUpgrade，清理旧版本备份，释放存储空间；继续观察一段时间并完善监控告警。

三 常用命令速查

• 查看版本：hadoop version
• 停止服务：sbin/stop-dfs.sh、sbin/stop-yarn.sh（或使用 sbin/stop-all.sh）
• 启动服务：sbin/start-dfs.sh、sbin/start-yarn.sh
• 启动 HDFS 升级：sbin/start-dfs.sh -upgrade
• 升级进度：hdfs dfsadmin -upgradeProgress（可加 status/details 查看详情）
• 回滚：sbin/start-dfs.sh -rollback
• 完成升级：hdfs dfsadmin -finalizeUpgrade
• 环境检查：确认 JAVA_HOME/HADOOP_HOME/PATH 已指向新版本目录

四 升级后验证与注意事项

• 基础校验：执行 hdfs dfs -ls /、yarn application -list 等命令核对文件系统与资源调度可用性；查看 NameNode/DataNode 与 ResourceManager/NodeManager 日志是否存在异常。
• 监控与回归：持续观察关键指标（RPC 延迟、GC、磁盘/网络 IO、作业成功率），并做必要的回归测试。
• 配置与兼容：按新版本要求调整配置与依赖；如与 HBase 等生态组件共存，通常应先升级 Hadoop，再评估 HBase 的兼容性与升级顺序。
• 文档与变更：查阅目标版本的升级说明与弃用/不兼容变更，按需调整代码与作业配置。

五 常见坑与建议

• 直接替换二进制而不执行升级流程，可能导致 HDFS 元数据/数据目录格式不兼容，升级失败或数据不可读。
• 未备份 dfs.namenode.name.dir 或配置文件，升级失败后无法回滚。
• 未验证 Java 与其他依赖兼容性，导致启动或运行期异常。
• 未预留回滚窗口与演练，出现问题无法快速恢复。
• 升级后未执行 -finalizeUpgrade 或过早清理旧数据，后续无法回滚且占用空间。