Hadoop 集群监控有哪些工具

Hadoop 集群监控工具全景

一 原生与内置手段

• Web UI：直接查看组件健康与作业状态，常用地址为 HDFS NameNode UI：http://:9870、YARN ResourceManager UI：http://:8088、MapReduce JobHistory UI：http://:19888。适合快速巡检与定位。
• 命令行工具：用于日常运维与状态核查，如 hdfs dfsadmin -report（HDFS 容量与 DataNode 概况）、hdfs fsck /（文件系统健康检查）、hdfs balancer（数据均衡）、yarn node -list -all / yarn application -list（YARN 节点与应用）、mapred job -list（MapReduce 作业）、jps（Java 进程）。
• JMX 接口：Hadoop 各组件暴露 JMX 指标，便于细粒度采集 GC、内存、线程、队列/容器 等运行时数据，可对接 Prometheus JMX Exporter 或自建采集器做长期存储与告警。

二 开源集中监控与可视化

• Prometheus + Grafana：以 Prometheus 采集时序指标（支持通过 JMX Exporter 拉取 Hadoop/JVM 指标），用 Grafana 构建可视化大盘与告警规则，适合需要自定义指标与灵活告警的团队。
• Apache Ambari：面向 Hadoop 生态的集中式 Web 管理与监控，支持 HDFS、YARN、Hive、HBase、Zookeeper 等组件的安装、配置、健康检查与告警，适合需要一体化运维的场景。
• Cloudera Manager：企业级 CDH 发行版的管理与监控平台，提供服务管理、配置管理、健康检查、可视化与告警，适合生产级与商业支持诉求。
• Ganglia：面向 HPC/大规模集群 的分布式监控系统，擅长节点资源（CPU、内存、磁盘 IO）的聚合展示，适合横向扩展环境。
• Zabbix：通用型 企业级 监控平台，支持 SNMP/自定义脚本/代理，可对 节点、进程、端口、日志 等进行监控与告警，适合与 Hadoop 组件混合部署的统一监控。
• Nagios：老牌 开源 监控与告警系统，插件生态丰富，适合基础设施与服务可用性层面的监控与通知。

三 日志与作业层面监控

• 日志文件：Hadoop 日志默认位于 $HADOOP_HOME/logs，可用 tail -f 实时查看、grep 检索异常关键字，结合 日志轮转 与 集中化日志（如 ELK）做历史分析与审计。
• 作业监控：除 YARN ResourceManager UI 与 JobHistory UI 外，可通过 yarn application -list -appStates ALL 获取应用列表与状态，配合 Prometheus/Grafana 或 Ambari/Cloudera Manager 的告警规则实现异常作业的快速发现与处置。

四 选型建议

• 规模与复杂度：中小规模或需要快速交付，优先 Ambari 或 Prometheus+Grafana；超大规模与多组件混合，考虑 Cloudera Manager 或 Ganglia + Zabbix/Nagios 的组合。
• 可视化与告警诉求：强调自助式可视化与灵活告警，选 Prometheus+Grafana；强调开箱即用的健康/配置/告警，选 Ambari/Cloudera Manager。
• 团队与生态：已有 CDH 栈优先 Cloudera Manager；偏 开源与云原生 技术栈优先 Prometheus+Grafana；需要统一监控平台整合网络/主机/中间件，选 Zabbix 或 Nagios。
• 合规与支持：对 SLA/合规/商业支持 有要求，倾向 Cloudera Manager；对 成本敏感 且团队具备自运维能力，倾向 开源方案。
• 落地实践：建议先在测试环境小规模验证（指标覆盖、告警阈值、性能开销），再推广到生产，并与变更/容量/备份流程联动。