以下是在CentOS上安装Hadoop的步骤:
sudo yum install -y java-1.8.0-openjdk-devel
安装OpenJDK。sudo adduser hadoop_user
和sudo passwd hadoop_user
创建并设置用户密码。ssh-keygen -t rsa -P ""
生成密钥,再通过cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
和chmod 0600 ~/.ssh/authorized_keys
配置公钥,最后用ssh-copy-id
将公钥分发到其他节点。sudo wget https://downloads.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
,然后解压到指定目录,如/opt/hadoop
。~/.bashrc
,添加export HADOOP_HOME=/opt/hadoop
等环境变量,执行source ~/.bashrc
使其生效。$HADOOP_HOME/etc/hadoop
目录,编辑hadoop-env.sh
设置Java路径,编辑core-site.xml
配置文件系统信息,编辑hdfs-site.xml
配置HDFS参数,编辑mapred-site.xml
配置MapReduce框架,编辑yarn-site.xml
配置YARN资源管理器。hdfs namenode -format
。$HADOOP_HOME/sbin/start-dfs.sh
和$HADOOP_HOME/sbin/start-yarn.sh
启动集群。