Ubuntu HDFS故障排查有哪些方法

以下是Ubuntu环境下HDFS的故障排查方法：

1. 查看日志
   • 检查NameNode、DataNode等组件日志（路径：/var/log/hadoop-hdfs/），定位错误信息。
2. 使用HDFS命令行工具
   • hdfs dfsadmin -report：查看集群状态、节点健康信息。
   • hdfs fsck：检查文件系统一致性，修复损坏块（-files -blocks -locations参数）。
3. 检查配置文件
   • 确保core-site.xml、hdfs-site.xml等配置正确，如fs.defaultFS、副本因子等。
4. 监控集群状态
   • 通过Web UI（如NameNode的http://主机:9870）查看节点状态、磁盘使用等。
   • 使用Ganglia、Prometheus等工具监控资源使用（CPU、内存、磁盘I/O）。
5. 排查网络与权限
   • 检查节点间网络连通性（ping、telnet端口），确认防火墙未拦截HDFS端口（默认8020等）。
   • 确认用户权限，使用hdfs dfs -chmod/-chown调整文件权限，或通过sudo -u hdfs执行命令。
6. 处理常见问题
   • 安全模式：若NameNode进入安全模式，使用hdfs dfsadmin -safemode leave退出。
   • 磁盘空间不足：通过df -h检查DataNode磁盘，清理或扩容。
7. 重启服务
   • 若临时故障，可尝试重启HDFS服务（先停止再启动）。

参考来源：