centos中hdfs怎样配置 - 问答

在CentOS系统中配置HDFS（Hadoop分布式文件系统）涉及多个步骤，包括安装Hadoop、配置Hadoop环境变量、设置HDFS相关参数等。以下是一个基本的配置指南：

1. 安装Hadoop

首先，你需要下载并安装Hadoop。你可以从Apache Hadoop官方网站下载最新版本的Hadoop。

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.4/hadoop-3.3.4.tar.gz
tar -xzvf hadoop-3.3.4.tar.gz -C /opt/

然后，将Hadoop目录移动到一个合适的位置：

mv /opt/hadoop-3.3.4 /opt/hadoop

2. 配置Hadoop环境变量

编辑/etc/profile.d/hadoop.sh文件，添加以下内容：

export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

使环境变量生效：

source /etc/profile.d/hadoop.sh

3. 配置HDFS

3.1 配置core-site.xml

编辑$HADOOP_HOME/etc/hadoop/core-site.xml文件，添加以下内容：

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://your_namenode_host:9000</value>
    </property>
</configuration>

将your_namenode_host替换为你的NameNode主机名或IP地址。

3.2 配置hdfs-site.xml

编辑$HADOOP_HOME/etc/hadoop/hdfs-site.xml文件，添加以下内容：

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>/opt/hadoop/data/namenode</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>/opt/hadoop/data/datanode</value>
    </property>
    <property>
        <name>dfs.permissions.enabled</name>
        <value>false</value>
    </property>
</configuration>

确保/opt/hadoop/data/namenode和/opt/hadoop/data/datanode目录存在，如果不存在，可以手动创建：

mkdir -p /opt/hadoop/data/namenode
mkdir -p /opt/hadoop/data/datanode

3.3 配置yarn-site.xml

编辑$HADOOP_HOME/etc/hadoop/yarn-site.xml文件，添加以下内容：

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
</configuration>

3.4 配置mapred-site.xml

编辑$HADOOP_HOME/etc/hadoop/mapred-site.xml文件，添加以下内容：

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

4. 格式化NameNode

在第一次启动HDFS之前，你需要格式化NameNode：

hdfs namenode -format

5. 启动HDFS

启动HDFS集群：

start-dfs.sh

6. 验证HDFS

检查HDFS是否正常运行：

hdfs dfsadmin -report

你应该能看到NameNode和DataNode的状态信息。

7. 配置防火墙

确保防火墙允许Hadoop使用的端口（默认是9000、50010、50020、50070、50075、50090）：

firewall-cmd --permanent --zone=public --add-port=9000/tcp
firewall-cmd --permanent --zone=public --add-port=50010/tcp
firewall-cmd --permanent --zone=public --add-port=50020/tcp
firewall-cmd --permanent --zone=public --add-port=50070/tcp
firewall-cmd --permanent --zone=public --add-port=50075/tcp
firewall-cmd --permanent --zone=public --add-port=50090/tcp
firewall-cmd --reload

8. 配置SSH无密码登录

为了方便集群管理，你可以配置SSH无密码登录：

ssh-keygen -t rsa
ssh-copy-id hadoop@your_namenode_host

将your_namenode_host替换为你的NameNode主机名或IP地址。

完成以上步骤后，你的HDFS集群应该已经成功配置并运行。

亿速云「云服务器」，即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘，价格低至29元/月。点击查看>>

0 赞

0 踩