HDFS CentOS配置步骤详解

在CentOS上配置HDFS（Hadoop Distributed File System）是一个相对复杂的过程，涉及多个步骤。以下是一个详细的配置步骤指南：

1. 环境准备

• 安装Java环境：Hadoop是基于Java的，因此需要安装JDK。可以从Oracle官网下载并安装JDK 8。
• 安装SSH：确保所有节点之间可以通过SSH无密码登录。

  sudo yum install -y openssh-server openssh-clients
  sudo systemctl start sshd
  sudo systemctl enable sshd
  ssh-keygen -t rsa -P ""
  ssh-copy-id root@node2
  ssh-copy-id root@node3
  

• 配置网络：修改主机名和IP地址映射。

  vi /etc/hosts
  vi /etc/sysconfig/network-scripts/ifcfg-ens33
  

  设置静态IP地址和网关。

2. 配置Hadoop环境变量

• 编辑/etc/profile文件：

  vi /etc/profile
  export JAVA_HOME=/usr/java/latest
  export PATH=$PATH:$JAVA_HOME/bin
  export HADOOP_HOME=/usr/local/hadoop
  export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
  export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
  source /etc/profile
  

3. 配置HDFS核心文件

• 配置core-site.xml：

  <configuration>
      <property>
          <name>fs.defaultFS</name>
          <value>hdfs://namenode:9000</value>
      </property>
  </configuration>
  

• 配置hdfs-site.xml：

  <configuration>
      <property>
          <name>dfs.replication</name>
          <value>1</value>
      </property>
      <property>
          <name>dfs.namenode.name.dir</name>
          <value>/usr/local/hadoop/hdfs/namenode</value>
      </property>
      <property>
          <name>dfs.datanode.data.dir</name>
          <value>/usr/local/hadoop/hdfs/datanode</value>
      </property>
  </configuration>
  

4. 格式化NameNode

• 初始化NameNode：

  hdfs namenode -format
  

5. 启动HDFS

• 启动HDFS服务：

  sbin/start-dfs.sh
  

6. 验证配置

• 检查HDFS状态：

  jps
  

  应该能看到NameNode、DataNode等进程。

7. 配置防火墙（可选）

• 关闭防火墙：

  sudo systemctl stop firewalld
  sudo chkconfig firewalld off
  

8. 配置免密登录（可选）

• 确保所有节点之间可以通过SSH无密码登录。

参考资源

• Hadoop官方文档
• CSDN博客

以上步骤涵盖了在CentOS上配置HDFS的基本流程。请根据具体需求和环境进行调整和优化。