CentOS Hadoop安装步骤是什么

在CentOS上安装Hadoop的步骤如下：

1. 准备工作：

   • 确保操作系统为CentOS 7/8或更高版本。
   • 安装JDK 8，配置环境变量。
   • 配置SSH，确保节点之间可以通过SSH无密码登录。

2. 下载并解压Hadoop：

   • 从Apache Hadoop官方网站下载最新版本的Hadoop（例如Hadoop 3.3.1）。
   • 使用wget命令下载并解压：

     wget https://downloads.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
     tar -xzvf hadoop-3.3.1.tar.gz
     sudo mv hadoop-3.3.1 /usr/local/hadoop
     

3. 配置环境变量：

   • 编辑/etc/profile文件，添加以下内容：

     export HADOOP_HOME=/usr/local/hadoop
     export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
     export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
     

   • 使配置生效：

     source /etc/profile
     

4. 配置Hadoop主要配置文件：

   • 编辑/usr/local/hadoop/etc/hadoop/core-site.xml，配置HDFS的默认URI：

     <configuration>
       <property>
         <name>fs.defaultFS</name>
         <value>hdfs://localhost:9000</value>
       </property>
     </configuration>
     

   • 编辑/usr/local/hadoop/etc/hadoop/hdfs-site.xml，配置HDFS的存储目录和副本数：

     <configuration>
       <property>
         <name>dfs.replication</name>
         <value>1</value>
       </property>
       <property>
         <name>dfs.namenode.name.dir</name>
         <value>/usr/local/hadoop/hdfs/namenode</value>
       </property>
       <property>
         <name>dfs.datanode.data.dir</name>
         <value>/usr/local/hadoop/hdfs/datanode</value>
       </property>
     </configuration>
     

5. 启动Hadoop服务：

   • 格式化NameNode：

     hdfs namenode -format
     

   • 启动HDFS和YARN服务：

     start-dfs.sh
     start-yarn.sh
     

6. 验证安装：

   • 使用以下命令检查Hadoop是否正常运行：

     jps
     

   • 在浏览器中访问Hadoop的Web UI（例如：http://localhost:8088）查看运行状态。

这些步骤涵盖了在CentOS上安装和配置Hadoop的基本流程，确保系统能够正常运行并处理数据。