Linux系统里Hadoop如何监控资源使用

1. 利用Hadoop内置命令行工具监控
Hadoop自带的命令行工具可直接获取集群资源状态，适用于快速排查问题。常用命令包括：

• jps：查看Java进程，确认Hadoop关键组件（NameNode、DataNode、ResourceManager、NodeManager等）是否运行；
• hdfs dfsadmin -report：生成HDFS详细状态报告，包含集群总容量、已用空间、剩余空间及各DataNode状态；
• yarn node -list：列出YARN集群中所有NodeManager的状态（如运行/停止）；
• yarn application -list：查看当前正在运行的YARN应用程序（如MapReduce、Spark作业）及资源占用情况（CPU、内存）。

2. 通过Hadoop Web控制台监控
Hadoop各组件提供可视化Web界面，直观展示集群资源使用情况：

• NameNode Web UI：默认端口为50070（Hadoop 2.x）或9870（Hadoop 3.x），可查看HDFS集群状态、DataNode列表、存储容量及数据块分布；
• ResourceManager Web UI：默认端口为8088，可监控YARN资源池的使用情况（如CPU、内存分配）、正在运行的应用程序及历史作业记录；
• NodeManager Web UI：默认端口为50470（Hadoop 3.x），可查看单个节点的资源使用详情（如CPU、内存、磁盘、网络）。

3. 使用第三方监控平台
第三方工具提供更强大的集中式监控、可视化及告警功能，适合大规模集群：

• Apache Ambari：开源管理工具，支持Hadoop生态组件（HDFS、YARN、Hive等）的监控、配置与管理，提供Web界面和REST API；
• Prometheus + Grafana：Prometheus负责采集Hadoop指标（通过Hadoop Exporter或JMX），Grafana负责可视化（如创建CPU、内存、任务队列等仪表板），支持告警规则配置；
• Ganglia：分布式监控系统，适用于高性能计算环境，可监控集群节点的CPU、内存、磁盘、网络等资源，支持大规模集群的集中式展示；
• Zabbix：企业级开源监控解决方案，支持监控Hadoop集群的节点状态、资源消耗、网络流量等，提供告警功能（邮件、短信）。

4. 分析Hadoop日志文件
Hadoop组件的日志文件存储在$HADOOP_HOME/logs目录下，包含详细的运行信息和错误记录，可通过以下方式监控：

• tail -f：实时追踪日志内容（如tail -f $HADOOP_HOME/logs/hadoop-*-namenode-*.log），查看实时运行状态；
• grep：搜索特定关键字（如“ERROR”“WARN”），快速定位异常（如grep "ERROR" $HADOOP_HOME/logs/*.log）。

5. 编写自定义监控脚本
根据需求编写Shell、Python等脚本，定期检查系统资源（CPU、内存、磁盘）及Hadoop组件状态，通过邮件、短信等方式发送告警。示例脚本（检查NameNode状态）：

#!/bin/bash
namenode_status=$(curl -s http://<namenode-host>:9870/dfshealth.html | grep "Healthy")
if [[ "$namenode_status" == *"Healthy"* ]]; then
    echo "NameNode is running normally."
else
    echo "NameNode is down!" | mail -s "Hadoop NameNode Alert" admin@example.com
fi

6. 利用JMX进行性能监控
YARN等组件支持通过JMX（Java Management Extensions）接口采集性能指标，需在Hadoop配置文件（如yarn-site.xml）中开启JMX远程访问，设置端口（如yarn.nodemanager.jmx.port=9999）及安全认证信息，再通过JConsole、VisualVM或Prometheus的JMX Exporter采集数据。