CentOS上Fortran并行计算方法

CentOS上Fortran并行计算方法

一、常用并行模型与适用场景

• OpenMP：基于共享内存的多线程并行，适合单机多核CPU；在Fortran中用指令如**!$omp parallel do快速并行化循环。编译时启用-fopenmp**。
• MPI：基于分布式内存的多进程并行，适合多机集群或单机多进程；在Fortran中调用MPI_Init/MPI_Finalize等API。编译用mpif90，运行用mpirun/mpiexec -np N。
• 混合并行（OpenMP+MPI）：外层MPI跨节点，内层OpenMP利用节点内多核，常用于大规模计算。
• GPU加速（OpenACC）：面向NVIDIA GPU的数据并行，需支持OpenACC的编译器（如PGI/NVIDIA HPC SDK）；编译用**-acc**。
  以上模型在CentOS上均可实现，选择取决于硬件与并行粒度需求。

二、OpenMP共享内存并行

• 安装与准备
  • 安装编译器与OpenMP运行时：sudo yum install gcc gfortran（GCC自带OpenMP支持）。
• 最小示例 openmp_demo.f90
  • 要点：use omp_lib，在循环前使用**!$omp parallel do**，编译加**-fopenmp**。
• 编译与运行
  • 编译：gfortran -fopenmp -O3 -o openmp_demo openmp_demo.f90
  • 运行：
    • 直接：./openmp_demo（受环境变量控制）
    • 指定线程数：OMP_NUM_THREADS=8 ./openmp_demo
• 提示
  • 避免在并行区使用print等非线程安全输出；尽量让循环体足够“厚”以抵消并行开销；合理设置schedule(static/dynamic)与private/shared变量。

三、MPI分布式内存并行

• 安装与准备
  • 安装OpenMPI：sudo yum install openmpi openmpi-devel；安装后可使用mpif90/mpirun。
• 最小示例 mpi_demo.f90
  • 要点：use mpi，调用MPI_Init/MPI_Comm_rank/MPI_Comm_size/MPI_Finalize。
• 编译与运行
  • 编译：mpif90 -O3 -o mpi_demo mpi_demo.f90
  • 运行：mpirun -np 4 ./mpi_demo（可按节点与核数扩展）
• 提示
  • 进程间通过MPI_Send/MPI_Recv或集合通信（如MPI_Allreduce）交换数据；注意数据划分与负载均衡；多节点需配置SSH免密与正确的主机清单。

四、混合并行与GPU加速

• 混合并行（OpenMP+MPI）
  • 思路：每个MPI进程绑定若干OpenMP线程（如节点内OMP_NUM_THREADS=8，节点间用MPI跨节点）；编译分别启用**-fopenmp**（OpenMP）与mpif90（MPI）。
  • 运行示例：mpirun -np 2 -x OMP_NUM_THREADS=8 ./hybrid_demo（节点数与核数按实际调整）。
• GPU加速（OpenACC）
  • 适用：具备NVIDIA GPU且安装支持OpenACC的编译器（如PGI/NVIDIA HPC SDK）。
  • 示例要点：在循环前使用**!$acc parallel loop**，编译用**-acc**；运行时确保驱动与运行时可用。
• 提示
  • 混合并行需控制总并行度≈物理核心数，避免超订；GPU代码关注数据传输（host↔device）开销与内核占用率。

五、性能优化与常见问题

• 基础优化
  • 循环向量化：在热循环上使用**!$omp simd**；确保数据对齐与连续访问；减少临界区与锁竞争；合理设置num_threads与schedule。
• 数学库与数值库
  • 线性代数与FFT等可结合BLAS/LAPACK/FFTW（如：sudo yum install blas-devel lapack-devel fftw-devel），并链接优化实现以提升整体性能。
• 调试与验证
  • 先做串行正确性验证，再逐步并行；小规模对照（如np=1/2/4）核对结果与性能；使用perf/top或MPI性能分析工具定位瓶颈。