Ubuntu Hadoop 如何进行故障排查

以下是Ubuntu环境下Hadoop的故障排查步骤：

1. 检查进程状态：使用jps命令查看NameNode、DataNode、ResourceManager等核心进程是否正常运行。
2. 查看日志文件：定位$HADOOP_HOME/logs目录，通过tail -f或grep分析错误日志，重点关注异常堆栈信息。
3. 验证配置参数：检查core-site.xml、hdfs-site.xml、yarn-site.xml等配置文件的正确性，如端口号、路径、权限等。
4. 测试网络连通性：用ping和traceroute命令确保节点间网络通畅，检查防火墙是否开放Hadoop所需端口（如9000、8088等）。
5. 监控系统资源：通过top、htop、iostat等工具查看CPU、内存、磁盘I/O使用情况，排查资源瓶颈。
6. 检查HDFS状态：使用hdfs dfsadmin -report查看节点健康状态，确认DataNode是否正常连接，数据块是否完整。
7. 分析YARN状态：通过yarn node -list查看NodeManager状态，访问ResourceManager Web界面（默认8088端口）检查任务执行情况。
8. 尝试重启服务：若发现异常，先停止所有服务（stop-all.sh），再重新启动（start-all.sh）。
9. 硬件与集群维护：检查磁盘空间是否充足，必要时清理或扩展存储；对故障节点可尝试下线（dfsadmin -refreshNodes）并替换。

参考来源：