Ubuntu HDFS如何安装配置

在Ubuntu上安装和配置Hadoop分布式文件系统（HDFS）涉及多个步骤。以下是一个详细的指南，帮助你完成整个过程：

环境准备

1. 更新系统：

sudo apt update && sudo apt upgrade -y

2. 安装Java环境： Hadoop依赖于Java环境，因此首先需要安装Java。

sudo apt install openjdk-8-jdk

验证Java安装：

java -version

3. 安装基础工具（可选但推荐）：

sudo apt install -y build-essential openssh-server

下载并解压Hadoop

从Apache Hadoop官方网站下载最新版本的Hadoop，并解压到你的目录中。例如，下载Hadoop 3.3.4版本：

wget http://archive.apache.org/dist/hadoop/common/hadoop-3.3.4/hadoop-3.3.4.tar.gz
tar -xzvf hadoop-3.3.4.tar.gz -C /usr/local/

配置Hadoop环境变量

1. 编辑~/.bashrc文件，添加以下内容：

export HADOOP_HOME=/usr/local/hadoop-3.3.4
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64

2. 使环境变量生效：

source ~/.bashrc

配置Hadoop核心文件

1. core-site.xml：

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
  </property>
</configuration>

2. hdfs-site.xml：

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.namenode.name.dir</name>
    <value>/usr/local/hadoop-3.3.4/data/namenode</value>
  </property>
  <property>
    <name>dfs.datanode.data.dir</name>
    <value>/usr/local/hadoop-3.3.4/data/datanode</value>
  </property>
</configuration>

3. yarn-site.xml（可选，如果你需要YARN）：

<configuration>
  <property>
    <name>yarn.resourcemanager.hostname</name>
    <value>localhost</value>
  </property>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>
</configuration>

创建HDFS目录

sudo mkdir -p /usr/local/hadoop-3.3.4/data/namenode
sudo mkdir -p /usr/local/hadoop-3.3.4/data/datanode
sudo chown -R hdfs:hdfs /usr/local/hadoop-3.3.4/data

格式化NameNode

在第一次启动HDFS之前，需要对NameNode进行格式化：

hdfs namenode -format

启动HDFS服务

启动HDFS集群：

start-dfs.sh

验证HDFS服务

1. 检查HDFS状态：

jps

你应该看到以下进程：

• NameNode
• DataNode
• SecondaryNameNode

2. 访问HDFS Web界面： 打开浏览器，访问 http://localhost:50070，你应该能看到HDFS的Web界面。

停止HDFS服务

停止HDFS服务：

stop-dfs.sh

通过以上步骤，你已经在Ubuntu系统上成功安装和配置了Hadoop HDFS。你可以使用HDFS存储和访问大量数据，为你的大数据应用提供支持。