以下是在Ubuntu上部署Hadoop应用的一般步骤:
sudo apt update
和sudo apt install openjdk-8-jdk
安装OpenJDK 8,然后通过vim ~/.bashrc
添加JAVA_HOME
环境变量并使配置生效。sudo apt install openssh-server
安装SSH服务端,生成密钥对并配置免密登录,以便Hadoop节点间通信。从Hadoop官网下载二进制文件,用tar -xzf
命令解压到指定目录,如/usr/local/hadoop
,并设置环境变量HADOOP_HOME
和PATH
。
主要配置core-site.xml
、hdfs-site.xml
、mapred-site.xml
和yarn-site.xml
等文件,设置文件系统默认地址、副本数、资源管理等参数。
在/usr/local/hadoop/sbin
目录下,使用./start-dfs.sh
和./start-yarn.sh
启动HDFS和YARN服务,可通过jps
命令查看进程,使用浏览器访问http://localhost:9870
查看Hadoop信息。