Ubuntu Kafka网络如何设置

在Ubuntu上配置Kafka网络涉及多个步骤，包括安装必要的软件、配置Kafka和Zookeeper、以及启动服务。以下是一个详细的指南：

1. 安装Java环境

Kafka需要Java运行环境，建议安装JDK 1.8或更高版本。可以通过以下命令检查Java是否已安装：

java -version

2. 安装Kafka和Zookeeper

安装Zookeeper

1. 下载Zookeeper：

wget https://downloads.apache.org/zookeeper/zookeeper-3.7.0/apache-zookeeper-3.7.0-bin.tar.gz

2. 解压并配置Zookeeper：

tar -xzvf apache-zookeeper-3.7.0-bin.tar.gz
cd apache-zookeeper-3.7.0
mkdir /tmp/zookeeper

3. 编辑 conf/zoo.cfg 文件：

dataDir=/tmp/zookeeper
clientPort=2181
server.1=localhost:2888:3888
server.2=localhost:2889:3889
server.3=localhost:2890:3890

4. 启动Zookeeper：

./bin/zkServer.sh start

安装Kafka

1. 下载Kafka：

wget https://downloads.apache.org/kafka/2.8.1/kafka_2.12-2.8.1.tgz

2. 解压并配置Kafka：

tar -xzvf kafka_2.12-2.8.1.tgz
cd kafka_2.12-2.8.1
mkdir /tmp/kafka

3. 编辑 config/server.properties 文件：

broker.id=0
listeners=PLAINTEXT://your_server_ip:9092
zookeeper.connect=localhost:2181
log.dirs=/tmp/kafka

4. 启动Kafka：

./bin/zookeeper-server-start.sh config/zookeeper.properties
./bin/kafka-server-start.sh config/server.properties

3. 配置网络

配置静态IP地址

对于Ubuntu 20.04 LTS及以上版本，使用Netplan工具管理网络。编辑 /etc/netplan/01-netcfg.yaml 文件，将 dhcp4: yes 更改为 dhcp4: no，并添加静态IP地址、网关和DNS服务器：

network:
  version: 2
  renderer: networkd
  ethernets:
    eth0:
      dhcp4: no
      addresses: [Your_Static_IP/Netmask]
      gateway4: Your_Gateway_IP
      nameservers:
        addresses: [DNS_Server_IPs]

应用配置：

sudo netplan apply

4. 验证配置

1. 创建一个主题并检查是否成功：

./bin/kafka-topics.sh --create --topic test --bootstrap-server localhost:9092
./bin/kafka-topics.sh --list --bootstrap-server localhost:9092

2. 启动生产者和消费者以测试Kafka服务器：

./bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
./bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

5. Kafka配置文件详解

server.properties

• broker.id: 每个Kafka broker在集群中的唯一标识。
• listeners: Kafka监听的地址和端口。
• advertised.listeners: Kafka对外提供的地址和端口。
• zookeeper.connect: 配置Zookeeper集群的地址。

防火墙设置

确保防火墙允许Kafka使用的端口（如9092和2181）：

sudo ufw allow 9092/tcp
sudo ufw allow 2181/tcp
sudo ufw reload