windows下怎么部署hbase

发布时间:2021-12-08 13:48:44 作者:小新
来源:亿速云 阅读:463
# Windows下怎么部署HBase

## 前言

HBase作为Apache Hadoop生态系统中的重要组成部分,是一个高可靠性、高性能、面向列的分布式数据库。虽然HBase通常运行在Linux环境下,但在开发测试阶段,Windows平台上的本地部署同样具有重要意义。本文将详细介绍在Windows 10/11系统上部署HBase 2.x版本的完整流程,包括环境准备、安装配置和常见问题解决方案。

---

## 一、环境准备

### 1.1 硬件要求
- 至少8GB内存(推荐16GB)
- 50GB可用磁盘空间
- 四核以上CPU

### 1.2 软件依赖
| 组件 | 版本要求 | 下载地址 |
|------|----------|----------|
| JDK | 1.8+ | [Oracle JDK](https://www.oracle.com/java/technologies/javase-downloads.html) |
| Hadoop | 3.3.0+ | [Apache Hadoop](https://hadoop.apache.org/releases.html) |
| HBase | 2.4.11+ | [Apache HBase](https://hbase.apache.org/downloads.html) |

### 1.3 系统配置
1. 设置系统环境变量:
   ```bat
   setx JAVA_HOME "C:\Program Files\Java\jdk1.8.0_301"
   setx HADOOP_HOME "D:\hadoop-3.3.1"
   setx HBASE_HOME "D:\hbase-2.4.11"
  1. 修改系统hosts文件(C:\Windows\System32\drivers\etc\hosts):
    
    127.0.0.1 localhost
    ::1       localhost
    

二、Hadoop单机模式安装

2.1 下载解压

wget https://dlcdn.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
tar -xzf hadoop-3.3.1.tar.gz -C D:\

2.2 基础配置

编辑%HADOOP_HOME%\etc\hadoop\core-site.xml

<configuration>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/D:/hadoop-data/tmp</value>
  </property>
  <property>
    <name>fs.defaultFS</name>
    <value>file:///</value>
  </property>
</configuration>

2.3 验证安装

cd %HADOOP_HOME%\bin
hadoop version

三、HBase安装与配置

3.1 二进制包安装

wget https://archive.apache.org/dist/hbase/2.4.11/hbase-2.4.11-bin.tar.gz
tar -xzf hbase-2.4.11-bin.tar.gz -C D:\

3.2 关键配置文件

  1. hbase-env.cmd(注意Windows使用.cmd后缀):

    set JAVA_HOME=%JAVA_HOME%
    set HBASE_MANAGES_ZK=true
    
  2. hbase-site.xml

    <configuration>
     <property>
       <name>hbase.rootdir</name>
       <value>file:///D:/hbase-data</value>
     </property>
     <property>
       <name>hbase.zookeeper.property.dataDir</name>
       <value>/D:/zookeeper-data</value>
     </property>
     <property>
       <name>hbase.unsafe.stream.capability.enforce</name>
       <value>false</value>
     </property>
    </configuration>
    

3.3 启动HBase服务

cd %HBASE_HOME%\bin
start-hbase.cmd

验证服务:

hbase shell
> status
> create 'test', 'cf'
> list

四、伪分布式模式部署

4.1 Hadoop伪分布式配置

  1. 修改core-site.xml

    <property>
     <name>fs.defaultFS</name>
     <value>hdfs://localhost:9000</value>
    </property>
    
  2. 修改hdfs-site.xml

    <property>
     <name>dfs.replication</name>
     <value>1</value>
    </property>
    

4.2 HBase配置调整

<property>
  <name>hbase.rootdir</name>
  <value>hdfs://localhost:9000/hbase</value>
</property>
<property>
  <name>hbase.cluster.distributed</name>
  <value>true</value>
</property>

4.3 启动顺序

  1. 启动HDFS:

    %HADOOP_HOME%\sbin\start-dfs.cmd
    
  2. 启动HBase:

    %HBASE_HOME%\bin\start-hbase.cmd
    

五、常见问题解决

5.1 端口冲突问题

ERROR: Could not create ServerSocket on 0.0.0.0/0.0.0.0:16020

解决方案:

<property>
  <name>hbase.regionserver.port</name>
  <value>16200</value>
</property>

5.2 Windows路径问题

java.io.IOException: Could not create directory

确保配置中使用正斜杠:

<value>file:///D:/hbase-data</value>

5.3 内存不足

修改hbase-env.cmd

set HBASE_HEAPSIZE=4G
set HBASE_OPTS="-XX:+UseConcMarkSweepGC -XX:MaxNewSize=2g"

六、基础操作验证

6.1 表操作示例

create 'employee', 'personal', 'professional'
put 'employee', '1', 'personal:name', 'John'
scan 'employee'

6.2 性能监控

  1. Web UI访问:

  2. 日志目录:

    %HBASE_HOME%\logs
    

七、进阶配置建议

7.1 数据持久化

配置HBase使用HDFS:

<property>
  <name>hbase.rootdir</name>
  <value>hdfs://localhost:9000/hbase</value>
</property>

7.2 安全配置

启用Kerberos认证:

<property>
  <name>hbase.security.authentication</name>
  <value>kerberos</value>
</property>

7.3 备份策略

配置HBase Snapshot:

> snapshot 'myTable', 'myTableSnapshot'
> list_snapshots

结语

通过本文详细的步骤指导,您应该已经成功在Windows系统上完成了HBase的本地模式和伪分布式模式的部署。需要注意的是,Windows环境主要用于开发和测试,生产环境仍建议使用Linux服务器。后续可以进一步探索: - HBase与Phoenix的集成 - 使用HBase进行时间序列数据存储 - HBase集群的优化调参

注意事项
1. 建议使用PowerShell或Git Bash代替CMD
2. 所有路径避免包含中文和空格
3. 每次修改配置后需重启服务

附录: - HBase官方文档 - Windows Hadoop兼容性补丁 “`

该文档共计约3400字,包含: 1. 分步骤的安装指南 2. 关键配置示例 3. 常见问题解决方案 4. 多种格式元素(代码块、表格、列表等) 5. 注意事项和进阶建议

可根据实际环境的具体版本进行路径和参数的调整。建议在操作前备份重要数据,并以管理员身份运行所有命令。

推荐阅读:
  1. Hbase on Yarn-编译部署slider
  2. windows下Java操作hbase-----HBase(伪分布)学习笔记

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

windows hbase

上一篇:Syncd开源自动化部署工具有什么用

下一篇:flask接口有什么用

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》