在Ubuntu上扩展Kafka集群主要有以下步骤:
添加新Broker节点
server.properties文件,设置唯一broker.id、监听地址listeners、日志目录log.dirs及ZooKeeper连接信息zookeeper.connect。bin/kafka-server-start.sh config/server.properties。加入集群
新节点会自动通过ZooKeeper加入集群,可通过bin/zookeeper-shell.sh <zk_host>:2181 ls /brokers/ids验证。
数据分区迁移(可选)
kafka-reassign-partitions.sh工具生成并执行分区迁移计划,将数据从旧节点迁移到新节点。优化与监控
num.network.threads、log.flush.interval.messages)提升性能。注意事项: