以下是在Ubuntu上配置HDFS的步骤:
安装Java
sudo apt update
sudo apt install openjdk-8-jdk # 或 openjdk-11-jdk
java -version # 验证安装
下载并解压Hadoop
wget https://downloads.apache.org/hadoop/common/hadoop-3.3.4/hadoop-3.3.4.tar.gz
tar -xzvf hadoop-3.3.4.tar.gz -C /usr/local/
sudo mv hadoop-3.3.4 hadoop # 可选:重命名目录
配置环境变量
编辑~/.bashrc
,添加:
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
source ~/.bashrc
配置HDFS核心文件
进入$HADOOP_HOME/etc/hadoop
,编辑以下文件:
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>dfs.replication</name>
<value>1</value> # 单节点设为1
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/usr/local/hadoop/data/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/usr/local/hadoop/data/datanode</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
格式化NameNode
hdfs namenode -format
启动HDFS
start-dfs.sh
验证HDFS
jps
(应看到NameNode、DataNode)http://localhost:50070
可选:若需配置YARN,需编辑mapred-site.xml
并启动YARN服务。
注意:多节点集群需配置SSH免密登录、修改hdfs-site.xml
中dfs.namenode.secondary.http-address
等参数。