Ubuntu HDFS如何进行故障排查

以下是Ubuntu环境下HDFS的故障排查方法：

1. 查看日志
   • 检查NameNode、DataNode等组件日志（默认位于/var/log/hadoop-hdfs/），搜索错误信息或异常堆栈。
2. 检查集群状态
   • 使用hdfs dfsadmin -report查看节点健康、副本数等状态，确认NameNode是否正常通信。
3. 验证配置文件
   • 检查core-site.xml、hdfs-site.xml等配置，确保参数（如fs.defaultFS、副本数）正确。
4. 网络连通性检查
   • 用ping测试节点间网络，netstat或ss查看端口监听状态，确保防火墙未拦截HDFS端口（默认50070等）。
5. 磁盘与资源监控
   • 用df -h检查DataNode磁盘空间，top/htop监控CPU/内存使用，确保资源充足。
6. 文件系统一致性检查
   • 用hdfs fsck /检测损坏块，配合-delete删除无效块或从备份恢复。
7. 处理特殊异常
   • 安全模式：若处于安全模式，用hdfs dfsadmin -safemode leave退出（谨慎操作）。
   • 小文件过多：合并小文件避免NameNode内存压力，或调整dfs.namenode.fs-limits.min-block-size。
8. 服务重启与备份
   • 必要时重启HDFS服务（先停止再启动），操作前备份重要数据。
9. 社区与官方资源
   • 参考Hadoop官方文档，或在Stack Overflow、Hadoop社区提问，提供日志和配置详情。

工具推荐：可使用Ganglia/Prometheus监控集群性能，或通过HDFS Web界面（NameNode默认端口9870）查看实时状态。