Linux下HDFS的配置步骤是什么

在Linux系统下配置Hadoop分布式文件系统（HDFS）是一个相对复杂的过程，涉及多个步骤。以下是详细的配置步骤：

1. 环境准备

• 安装Java：HDFS依赖于Java运行环境，因此需要先安装JDK。可以使用包管理器（如apt-get或yum）或从Oracle官网下载安装。
• 下载Hadoop：从Apache Hadoop官方网站下载适合你系统的Hadoop版本，并解压到指定目录。

2. 配置环境变量

• 编辑~/.bashrc文件：添加Hadoop的bin目录到系统的PATH环境变量中，方便全局调用Hadoop命令。

  export HADOOP_HOME=/path/to/your/hadoop
  export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
  

• 使配置生效：

  source ~/.bashrc
  

3. 配置核心配置文件

• 编辑$HADOOP_HOME/etc/hadoop/core-site.xml：

  <configuration>
      <property>
          <name>fs.defaultFS</name>
          <value>hdfs://namenode:9000</value>
      </property>
      <property>
          <name>hadoop.tmp.dir</name>
          <value>/path/to/hadoop/tmp</value>
      </property>
  </configuration>
  

• 编辑$HADOOP_HOME/etc/hadoop/hdfs-site.xml：

  <configuration>
      <property>
          <name>dfs.namenode.name.dir</name>
          <value>/path/to/namenode/dir</value>
      </property>
      <property>
          <name>dfs.datanode.data.dir</name>
          <value>/path/to/datanode/dir</value>
      </property>
      <property>
          <name>dfs.replication</name>
          <value>3</value>
      </property>
  </configuration>
  

4. 格式化NameNode

• 首次使用HDFS前，需要执行以下命令来初始化NameNode：

  hdfs namenode -format
  

5. 启动HDFS服务

• 启动NameNode和DataNode：

  start-dfs.sh
  

• 检查服务状态：可以使用jps命令查看Java进程，或访问NameNode的Web界面（默认端口50070）查看集群状态。

6. 配置SSH免密码登录

• 在master节点上执行以下命令生成SSH密钥：

  ssh-keygen -t rsa
  

• 将生成的公钥发送到所有slave节点：

  ssh-copy-id slave1
  ssh-copy-id slave2
  ssh-copy-id slave3
  ssh-copy-id slave4
  ssh-copy-id slave5
  

7. 验证配置

• 在master节点上执行以下命令测试连接：

  ssh slave1
  

8. 配置细粒度锁（可选）

• 如果使用MRS 3.5.0及之后版本，可以配置细粒度锁特性以提升性能：

  dfs.namenode.fgl.enable true