CentOS 上优化 HBase 查询速度的系统化做法
一 硬件与操作系统层优化
- 存储优先使用 SSD，可显著降低读写 I/O 延迟；确保 RegionServer 内存充足（建议≥32GB），并具备 千兆以上网络 以避免带宽成为瓶颈。
- 调整内核与网络：提高文件描述符上限（如 ulimit -n 65535）、增大 TCP 缓冲区（如 net.core.rmem_max / wmem_max=16777216）、可按需开启 TCP_FASTOPEN=3。
- 降低交换倾向（如 vm.swappiness=0），减少查询抖动；使用 64 位操作系统与合适的文件系统预读策略，提升顺序扫描与元数据访问性能。
二 HBase 缓存与内存调优
- 明确内存分工：读多写少提高 BlockCache 占比，写多读少提高 MemStore 占比；避免二者之和长期超过 JVM 堆的 80%（留出 20% 给 RPC、压缩、索引等）。
- 读多写少建议：BlockCache 占堆 0.6–0.7，启用 BucketCache（offheap）+ CombinedBlockCache，块大小 64–128KB；开启写入时缓存索引/布隆过滤器（如 hbase.rs.cacheblocksonwrite=true、hfile.block.bloom.cacheonwrite=true）。
- 写多写少建议：MemStore 占堆 0.5–0.6，适度降低 BlockCache；关注 StoreFile 数量，避免频繁阻塞与合并。
- 布隆过滤器：为列族启用 ROW/ROWCOL 类型，减少不必要的磁盘读取。
- 示例配置（读多写少，堆 40GB，堆外 BucketCache 24GB）：
- hbase.regionserver.global.memstore.size=0.4
- hfile.block.cache.size=0.6
- hbase.bucketcache.ioengine=offheap；hbase.bucketcache.size=24576（MB）
- hbase.hstore.bloom.enabled=true；hbase.hstore.bloom.block.type=ROWCOL
- hbase.rs.cacheblocksonwrite=true；hfile.block.bloom.cacheonwrite=true
三 表与 RowKey 设计
- 合理设计 RowKey：避免热点，使用 散列/反转/加盐 等方式打散访问；让高频查询条件尽量匹配 RowKey 前缀，减少扫描。
- 控制 ColumnFamily 数量（建议≤2–3 个），减少 I/O 与元数据开销；为列族设置合适的 压缩算法（如 SNAPPY） 与 TTL，降低存储与扫描成本。
- 创建表时 预分区/预分割，让 Region 均匀分布，避免后期热点与数据倾斜。
四 查询与客户端行为优化
- 精准查询尽量 指定列族/列，减少不必要 IO；大范围扫描适当增大 Scan 缓存（如 500–1000） 降低 RPC 次数；离线/批量扫描可 禁用块缓存 避免污染热点。
- 使用 批量 Get 合并请求，降低往返延迟；高并发写入可 关闭自动刷新（hbase.client.autoFlush=false） 并增大 写缓冲区，提升吞吐（写入更顺畅也会间接缩短查询收敛时间）。
- 提升 数据局部性（locality） 与 Region 均衡：让热点数据在本地读取，避免单点过载。
五 压缩 合并 与 运维监控
- 启用 压缩（SNAPPY/LZO/GZIP），减少磁盘占用与网络传输，提高扫描与随机读效率；结合 布隆过滤器 进一步减少磁盘命中。
- 合理 Compaction：Minor 频繁合并小文件，Major 控制 StoreFile 数量；过多 HFile 会显著增加读取延迟。
- 监控与调优：利用 HBase Master UI、JMX、Ganglia/Prometheus 观察 BlockCache 命中率、Region 负载、HFile 数量、GC 停顿 等关键指标；必要时 水平扩展 RegionServer、调整 Region 大小（hbase.hregion.max.filesize） 与 RPC 处理线程数（hbase.regionserver.handler.count），并在测试环境验证后再上线。