在CentOS上搭建HBase集群涉及多个步骤,包括安装Java、配置Hadoop、下载和配置HBase等。以下是一个基本的指南:
HBase需要Java环境,首先确保你的系统上已经安装了Java。
sudo yum install java-1.8.0-openjdk-devel
HBase依赖于Hadoop,所以你需要先搭建Hadoop集群。以下是简要步骤:
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
tar -xzvf hadoop-3.3.1.tar.gz -C /usr/local/
编辑/usr/local/hadoop/etc/hadoop/core-site.xml:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://your-namenode:9000</value>
</property>
</configuration>
编辑/usr/local/hadoop/etc/hadoop/hdfs-site.xml:
<configuration>
<property>
<name>dfs.replication</name>
<value>3</value>
</property>
</configuration>
编辑/usr/local/hadoop/etc/hadoop/mapred-site.xml:
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
编辑/usr/local/hadoop/etc/hadoop/yarn-site.xml:
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
/usr/local/hadoop/bin/hdfs namenode -format
start-dfs.sh
start-yarn.sh
wget https://archive.apache.org/dist/hbase/2.4.9/hbase-2.4.9-bin.tar.gz
tar -xzvf hbase-2.4.9-bin.tar.gz -C /usr/local/
编辑/usr/local/hbase/conf/hbase-site.xml:
<configuration>
<property>
<name>hbase.rootdir</name>
<value>hdfs://your-namenode:9000/hbase</value>
</property>
<property>
<name>hbase.cluster.distributed</name>
<value>true</value>
</property>
<property>
<name>hbase.zookeeper.quorum</name>
<value>your-zookeeper1,your-zookeeper2,your-zookeeper3</value>
</property>
<property>
<name>hbase.zookeeper.property.dataDir</name>
<value>/usr/local/hbase/zookeeper</value>
</property>
</configuration>
编辑/usr/local/hbase/conf/hbase-env.sh:
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
export HBASE_MANAGES_ZK=true
start-hbase.sh
打开浏览器,访问http://your-hbase-master:16010,你应该能看到HBase的Web UI。
确保防火墙允许HBase所需的端口(默认是16010, 16020, 16030等)。
sudo firewall-cmd --zone=public --add-port=16010/tcp --permanent
sudo firewall-cmd --zone=public --add-port=16020/tcp --permanent
sudo firewall-cmd --zone=public --add-port=16030/tcp --permanent
sudo firewall-cmd --reload
编辑/usr/local/hbase/conf/hbase-site.xml,添加客户端配置:
<property>
<name>hbase.client.scanner.caching</name>
<value>100</value>
</property>
<property>
<name>hbase.rpc.timeout</name>
<value>60000</value>
</property>
使用HBase shell测试集群是否正常工作:
hbase shell
在HBase shell中,你可以创建表、插入数据、查询数据等。
以上步骤提供了一个基本的HBase集群搭建指南。根据你的具体需求和环境,可能需要进行更多的配置和调整。