Ubuntu HDFS如何进行版本升级

Ubuntu环境下HDFS版本升级步骤及注意事项

一、升级前准备工作

1. 备份关键数据与配置
   升级前必须对HDFS元数据（NameNode的fsimage、edits文件）和DataNode数据块进行完整备份。可通过hdfs dfsadmin -saveNamespace命令备份NameNode元数据，同时将/path/to/hadoop/conf目录下的core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml等配置文件复制到安全位置（如/path/to/hadoop/conf.old）。
2. 检查集群状态与兼容性
   使用hdfs dfsadmin -report命令确认集群所有节点（NameNode、DataNode）状态正常（无宕机、无数据块丢失）。仔细阅读新版本官方升级指南，确认新版本与Ubuntu系统版本（如Ubuntu 22.04/24.04）、Hadoop生态组件（如YARN、Hive、Spark）的兼容性，避免因版本冲突导致升级失败。
3. 下载并解压新版本Hadoop
   从Apache Hadoop官方网站下载目标版本的安装包（如hadoop-3.3.6.tar.gz），上传至Ubuntu服务器（如/bigdata目录），执行tar -zxvf hadoop-3.3.6.tar.gz解压，并修改所有者为Hadoop运行用户（如chown -R hdfs:hadoop /bigdata/hadoop-3.3.6）。
4. 更新环境变量
   编辑/etc/profile文件，添加新版本Hadoop路径：export HADOOP_HOME=/bigdata/hadoop-3.3.6，并将$HADOOP_HOME/bin追加到PATH变量中（如export PATH=$PATH:$HADOOP_HOME/bin）。执行source /etc/profile使环境变量生效。
5. 修改配置文件适配新版本
   将旧版本conf目录下的配置文件复制到新版本etc/hadoop目录下，重点修改以下配置：
   • core-site.xml：更新hadoop.tmp.dir（数据临时目录）、fs.defaultFS（NameNode地址）等路径；
   • hdfs-site.xml：调整dfs.replication（副本数）、dfs.namenode.name.dir（NameNode元数据目录）、dfs.datanode.data.dir（DataNode数据目录）等参数；
   • 若启用Kerberos认证，需更新core-site.xml中的hadoop.security.authentication为kerberos，并配置krb5.conf相关参数。

二、滚动升级（推荐，适用于HA集群）

滚动升级可在不停止集群服务的情况下逐个升级节点，最大程度减少对业务的影响，适用于高可用（HA）集群。

1. 准备滚动升级
   在NameNode节点执行hdfs dfsadmin -rollingUpgrade prepare命令，创建回滚所需的fsimage文件；执行hdfs dfsadmin -rollingUpgrade query检查状态，直到返回“Proceed with rolling upgrade”（可继续升级）。
2. 升级NameNode
   • 若为HA集群，先将Standby NameNode切换为Active状态（使用hdfs haadmin -failover standby-name active-name）；
   • 停止当前NameNode服务（hdfs --daemon stop namenode）；
   • 使用新版本Hadoop启动NameNode，并指定滚动升级模式（hdfs --daemon start namenode -rollingUpgrade started）。
3. 升级DataNode
   逐个升级DataNode节点（避免同时升级多个，影响数据冗余）：
   • 登录DataNode服务器，执行hdfs dfsadmin -shutdownDatanode <datanode_host>:<ipc_port> upgrade关闭DataNode；
   • 使用新版本Hadoop启动DataNode（hdfs --daemon start datanode）；
   • 等待DataNode启动完成，通过NameNode Web界面（http://<namenode_ip>:9870）确认其状态为“Live”。
4. 完成滚动升级
   当所有DataNode均升级完成后，执行hdfs dfsadmin -rollingUpgrade finalize命令完成升级。此时集群将不再支持回滚到旧版本。

三、停机升级（适用于非HA集群）

若集群未配置HA，需停机升级，步骤如下：

1. 停止所有HDFS服务
   在所有节点执行hdfs --daemon stop datanode停止DataNode，然后在NameNode节点执行hdfs --daemon stop namenode停止NameNode。
2. 升级所有节点
   在所有节点执行hdfs dfsadmin -upgrade命令，启动升级流程（新版本Hadoop会自动处理数据格式转换）。
3. 验证升级结果
   启动NameNode（hdfs --daemon start namenode）和DataNode（hdfs --daemon start datanode），通过hdfs dfsadmin -report检查集群状态，确认所有节点已升级到新版本。

四、升级后验证

1. 检查集群状态
   使用hdfs dfsadmin -report查看集群节点列表、数据块数量、副本率等信息，确保所有节点状态正常。
2. 验证数据完整性
   执行hdfs fsck /命令检查文件系统健康状况，确认无损坏的数据块（Corrupt blocks数量为0）。
3. 测试业务功能
   运行简单的HDFS操作（如hdfs dfs -put上传文件、hdfs dfs -get下载文件、hdfs dfs -ls列出目录），并提交一个简单的MapReduce或Spark作业，验证业务功能是否正常。

五、注意事项

1. 版本兼容性
   确保新版本与旧版本的文件系统布局、配置参数兼容。例如，从HDFS 2.x升级到3.x时，需注意擦除编码（Erasure Coding）、多NameNode支持等新特性的配置要求。
2. 回滚计划
   滚动升级前需确认fsimage备份已完成，若升级失败，可通过hdfs dfsadmin -rollingUpgrade rollback命令回滚到旧版本。停机升级则需保留旧版本Hadoop安装包，以便重新安装。
3. 监控与日志
   升级过程中密切监控集群性能（CPU、内存、网络带宽），通过NameNode和DataNode的Web界面查看日志，及时处理异常（如数据块同步延迟、节点宕机）。
4. 测试环境验证
   生产环境升级前，务必在测试环境中模拟升级流程，验证配置的正确性和业务的兼容性，避免直接在生产环境出现问题。