Ubuntu Hadoop 集群故障如何排查

Ubuntu Hadoop集群故障排查可按以下步骤进行：

1. 查看日志文件：检查$HADOOP_HOME/logs目录下各组件（NameNode、DataNode等）日志，搜索"ERROR"等异常信息。
2. 检查进程状态：使用jps命令确认Hadoop核心进程（如NameNode、ResourceManager）是否正常运行。
3. 验证网络连接：用ping测试节点间连通性，telnet或nc检查端口（如NameNode的9000、ResourceManager的8088）是否开放，确保防火墙未拦截。
4. 核对配置文件：检查core-site.xml、hdfs-site.xml等配置参数是否正确，重点关注路径、端口、权限等设置。
5. 分析系统资源：通过top、htop、df -h等命令监控CPU、内存、磁盘使用情况，排查资源瓶颈或不足。
6. 使用Hadoop工具：
   • hdfs dfsadmin -report查看HDFS集群状态。
   • yarn node -list查看YARN节点状态。
   • hdfs fsck检查并修复文件系统错误。
7. 查看系统日志：通过/var/log/syslog或journalctl排查系统级错误。
8. 版本与兼容性检查：确认Hadoop各组件版本一致，且与Ubuntu系统、Java等依赖软件兼容。
9. 逐步隔离与恢复：若无法定位问题，可尝试重启服务、回滚配置或替换故障节点，逐步缩小故障范围。

参考来源：