Hadoop 在 CentOS 上如何配置

以下是在CentOS上配置Hadoop的步骤：

1. 安装Java：使用sudo yum install -y java-1.8.0-openjdk-devel命令安装OpenJDK 8。
2. 下载并解压Hadoop：从官网下载，如wget https://downloads.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz，然后tar -xzvf hadoop-3.3.1.tar.gz，并sudo mv hadoop-3.3.1 /usr/local/hadoop。
3. 配置环境变量：编辑~/.bashrc，添加export HADOOP_HOME=/usr/local/hadoop、export PATH=$PATH:$HADOOP_HOME/bin、export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk，运行source ~/.bashrc使其生效。
4. 配置Hadoop文件：
   • core-site.xml：<configuration><property><name>fs.defaultFS</name><value>hdfs://localhost:9000</value></property></configuration>。
   • hdfs-site.xml：<configuration><property><name>dfs.replication</name><value>1</value></property><property><name>dfs.namenode.name.dir</name><value>file:/usr/local/hadoop/dfs/name</value></property><property><name>dfs.datanode.data.dir</name><value>file:/usr/local/hadoop/dfs/data</value></property></configuration>。
   • mapred-site.xml：先复制模板cp mapred-site.xml.template mapred-site.xml，再添加<configuration><property><name>mapreduce.framework.name</name><value>yarn</value></property></configuration>。
   • yarn-site.xml：<configuration><property><name>yarn.nodemanager.aux -services</name><value>mapreduce_shuffle</value></property><property><name>yarn.nodemanager.aux -services.mapreduce.shuffle.class</name><value>org.apache.hadoop.mapred.ShuffleHandler</value></property></configuration>。
5. 格式化HDFS：执行hdfs namenode -format。
6. 启动Hadoop：运行start-dfs.sh和start-yarn.sh。