CentOS HDFS网络设置有哪些注意事项

CentOS 上部署 HDFS 的网络设置要点

一 基础网络与主机识别

• 使用静态 IP，在网卡配置（如 /etc/sysconfig/network-scripts/ifcfg-ens33）中设置 IPADDR、NETMASK、GATEWAY、DNS1/2，确保节点间通信稳定；虚拟机场景优先选择 NAT 或桥接并合理规划网段。
• 为每台机器设置唯一主机名，并在 /etc/hosts 中维护“IP—主机名”的准确映射，避免解析歧义。
• 校验 DNS 可用（/etc/resolv.conf 配置 nameserver），保证域名解析正常。
• 统一网络接口命名（如 eth0/ens33），防止配置错网卡导致节点不可达。
• 配置 SSH 免密登录，便于集群启停、分发与维护自动化。

二 防火墙与端口开放

• 方案 A（测试/内网）：临时关闭防火墙
  • systemctl stop firewalld && systemctl disable firewalld
• 方案 B（生产）：按需放行端口并持久化
  • firewall-cmd --permanent --zone=public --add-port=9000/tcp
  • firewall-cmd --permanent --zone=public --add-port=50010/tcp
  • firewall-cmd --permanent --zone=public --add-port=50020/tcp
  • firewall-cmd --permanent --zone=public --add-port=50070/tcp
  • firewall-cmd --permanent --zone=public --add-port=50075/tcp
  • firewall-cmd --permanent --zone=public --add-port=50090/tcp
  • firewall-cmd --reload
• 建议仅开放必要端口，并限制来源网段，降低攻击面。

三 时间同步与集群稳定性

• 全集群启用 NTP/chrony 做时间同步，避免 RPC 过期、安全令牌失效、审计与复制异常 等问题。
• 变更网络或时间后，按序重启相关服务，并观察 NameNode/DataNode 日志与 HDFS Web UI 的健康状态。

四 HDFS 关键网络参数与地址配置

• 核心地址与端口（示例）：
  • core-site.xml：fs.defaultFS=hdfs://namenode:8020（RPC 端口以实际为准，常见为 8020/9000）
  • hdfs-site.xml：
    • dfs.namenode.rpc-address（NameNode RPC）
    • dfs.namenode.http-address=namenode:50070（Web UI）
    • dfs.datanode.address=datanode:50010（数据传输）
    • dfs.datanode.ipc.address=datanode:50020（DataNode IPC）
• 主机名与 IP 校验：
  • dfs.namenode.datanode.registration.ip-hostname-check=true（注册时校验 IP 与主机名一致性）
  • dfs.client.use.datanode.hostname=true（客户端通过主机名访问 DataNode，需保证 DNS/hosts 正确）
• 典型性能与行为参数（按规模与负载调优）：
  • dfs.replication=3（副本数，默认 3）
  • dfs.blocksize=268435456（块大小，示例为 256MB）
  • dfs.namenode.handler.count=100（NameNode RPC 处理线程，默认 100）
  • dfs.datanode.handler.count=40（DataNode 数据传输线程，默认 40）

五 高可用、冗余与性能优化

• 高可用（HA）：引入 ZooKeeper 进行故障转移，规划 nameservices、dfs.ha.namenodes.[nameservice]、dfs.namenode.rpc-address.[nameservice].[nn] 等参数，确保 JournalNode/共享存储 网络可达与隔离。
• 双网卡与链路冗余：使用 bond0 做链路聚合/主备（如 mode=1 miimon=100），提升可靠性；注意交换机侧相应配置与落地策略。
• 内核与系统资源：
  • 提升文件描述符与系统限制（/etc/security/limits.conf 与 /etc/sysctl.conf），如 nofile 65536、fs.file-max 131072，并优化 TCP 回收/超时 等参数以减少连接资源占用。
• 网络与业务侧优化：
  • 保障带宽与低丢包，必要时进行 拓扑优化 与设备冗余；
  • 结合业务调整 并行传输/本地性等待 等参数，避免过度跨节点传输；
  • 部署 iftop/nethogs 等监控工具，持续观测吞吐、延迟与异常流量。