HDFS故障排查Ubuntu上怎么办

在Ubuntu上排查HDFS故障可参考以下步骤：

1. 查看集群状态

   • 使用 hdfs dfsadmin -report 查看DataNode数量、健康状态及存储容量。
   • 通过NameNode Web界面（默认端口50070）检查集群状态。

2. 分析日志文件

   • NameNode日志：/var/log/hadoop-hdfs/hadoop-*-namenode-*.log。
   • DataNode日志：/var/log/hadoop-hdfs/hadoop-*-datanode-*.log。
   • 使用 tail -f 或 grep 过滤关键错误（如WARN/ERROR级别）。

3. 检查配置文件

   • 确保 core-site.xml、hdfs-site.xml 中参数正确（如 fs.defaultFS、dfs.replication）。
   • 验证配置文件在所有节点上一致。

4. 排查网络与硬件

   • 用 ping 和 netstat 检查节点间网络连通性，确保端口（如50070、8020）开放。
   • 通过 df -h 确认DataNode磁盘空间充足，无坏道。

5. 处理数据一致性问题

   • 使用 hdfs fsck / -files -blocks -locations 检查损坏块，删除或修复。
   • 若存在副本不足，通过 hdfs dfsadmin -setReplication 调整副本数。

6. 应对特殊异常

   • 安全模式：若集群处于安全模式，用 hdfs dfsadmin -safemode leave 退出（需先修复问题）。
   • 内存不足：调整NameNode堆内存（修改 hadoop-env.sh 中 HADOOP_NAMENODE_OPTS）。

7. 重启服务

   • 若以上步骤无效，可尝试重启HDFS服务：

     sudo service hadoop-hdfs-namenode restart  
     sudo service hadoop-hdfs-datanode restart  
     

     （需先备份数据）。

8. 寻求社区支持

   • 若问题仍未解决，可在Hadoop社区论坛或Stack Overflow提交日志和配置信息。

注意：操作前建议备份重要数据，谨慎执行删除或格式化操作。