1. 环境准备:系统与Java基础配置
在Ubuntu上构建Java分布式系统前,需完成以下基础准备:
sudo apt update && sudo apt upgrade -y确保系统包为最新版本。sudo apt install openjdk-11-jdk -y;如需Oracle JDK,可添加PPA源(sudo add-apt-repository ppa:webupd8team/java)后安装。~/.bashrc文件,添加export JAVA_HOME=/usr/lib/jvm/java-11-openjdk-amd64(路径以实际安装位置为准)和export PATH=$JAVA_HOME/bin:$PATH,执行source ~/.bashrc使配置生效。java -version,确认输出显示正确的Java版本信息。2. 分布式系统核心组件选型与安装
Java分布式系统的构建依赖以下核心组件,需根据业务场景选择并安装:
/usr/local/hadoop),配置hadoop-env.sh(设置JAVA_HOME)、core-site.xml(指定HDFS地址fs.defaultFS=hdfs://namenode:9000)、hdfs-site.xml(设置副本数dfs.replication=3),启动HDFS(start-dfs.sh)和YARN(start-yarn.sh)。spark-env.sh(设置JAVA_HOME),启动Master(start-master.sh)和Worker(start-worker.sh spark://master:7077)。sudo apt install zookeeper),配置/etc/zookeeper/conf/zoo.cfg(设置dataDir=/var/lib/zookeeper、clientPort=2181),启动服务(sudo systemctl start zookeeper)。spring-boot-starter-web、spring-cloud-starter-netflix-eureka-server(服务注册中心)、spring-cloud-starter-netflix-eureka-client(服务客户端)等依赖,配置Eureka Server(server.port=8761、eureka.client.registerWithEureka=false)和微服务(eureka.client.serviceUrl.defaultZone=http://localhost:8761/eureka/)。3. 集群节点配置与通信
分布式系统需多节点协同工作,需完成以下配置:
master、node1),编辑/etc/hostname修改主机名;编辑/etc/hosts文件,添加节点IP与主机名映射(如192.168.1.10 master、192.168.1.11 node1),确保节点间可通过主机名互相访问。ssh-keygen -t rsa),将公钥复制到所有从节点(ssh-copy-id node1),测试免密登录(ssh node1),避免后续操作重复输入密码。sudo ufw disable)或开放必要端口(如Hadoop的9000、50070,Spark的7077,ZooKeeper的2181),确保节点间通信不受阻碍。4. 框架启动与验证
hadoop version确认Hadoop安装成功;上传测试文件至HDFS(hadoop fs -put /local/file /hdfs/path),检查文件是否存在(hadoop fs -ls /hdfs/path)。spark-submit --class org.apache.spark.examples.SparkPi --master spark://master:7077 --deploy-mode client /path/to/spark/examples/jars/spark-examples_2.12-3.3.1.jar 10),查看输出结果(计算π的近似值)。zkCli.sh -server master:2181),执行ls /查看根节点,确认服务正常运行。http://localhost:8761查看注册中心界面;启动微服务,确认其自动注册至Eureka Server(界面显示服务列表)。5. 可选优化:负载均衡与高可用
sudo apt install nginx),编辑配置文件/etc/nginx/sites-available/default,添加upstream块(upstream java_servers { server node1:8080; server node2:8080; })和location块(proxy_pass http://java_servers;),重启Nginx(sudo systemctl restart nginx)。