在CentOS上部署Apache Kafka涉及多个步骤,包括安装Java、下载Kafka、配置Kafka以及启动Kafka服务。以下是一个详细的指南:
Kafka需要Java运行环境,因此首先需要安装Java。
sudo yum install java-1.8.0-openjdk-devel
验证Java安装:
java -version
从Apache Kafka官方网站下载最新版本的Kafka。
wget https://downloads.apache.org/kafka/3.2.0/kafka_2.13-3.2.0.tgz
解压下载的文件:
tar -xzf kafka_2.13-3.2.0.tgz
mv kafka_2.13-3.2.0 /opt/kafka
进入Kafka目录并进行基本配置。
cd /opt/kafka/config
编辑server.properties
文件,进行基本配置。
# The directory under which the log files will be stored.
log.dirs=/tmp/kafka-logs
# The number of partitions for the default topic.
num.partitions=1
# The default number of partitions per topic.
default.replication.factor=1
# The expected number of connections to the broker.
listeners=PLAINTEXT://:9092
# The address the broker will bind to and publish to.
advertised.listeners=PLAINTEXT://your_server_ip:9092
# The port the listener will use for incoming connections.
port=9092
将your_server_ip
替换为你的服务器IP地址。
编辑zookeeper.properties
文件,进行基本配置。
dataDir=/tmp/zookeeper
clientPort=2181
maxClientCnxns=0
Kafka依赖Zookeeper,因此需要先启动Zookeeper。
cd /opt/kafka/bin
./zookeeper-server-start.sh ../config/zookeeper.properties
在另一个终端窗口中启动Kafka服务器。
./kafka-server-start.sh ../config/server.properties
创建一个Kafka主题来测试。
./kafka-topics.sh --create --topic test --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1
发送和接收消息以验证Kafka是否正常工作。
./kafka-console-producer.sh --topic test --bootstrap-server localhost:9092
在提示符下输入消息并按回车键发送。
./kafka-console-consumer.sh --topic test --from-beginning --bootstrap-server localhost:9092
你应该能够看到之前发送的消息。
停止Kafka服务器:
./kafka-server-stop.sh
停止Zookeeper服务器:
./zookeeper-server-stop.sh
确保防火墙允许Kafka端口(默认是9092)的流量。
sudo firewall-cmd --zone=public --add-port=9092/tcp --permanent
sudo firewall-cmd --reload
如果SELinux启用,可能需要配置它以允许Kafka运行。
sudo setsebool -P httpd_can_network_connect 1
完成以上步骤后,你应该能够在CentOS上成功部署Apache Kafka。