在Linux虚拟机中使用GPU主要有以下两种方法：
- GPU直通：
- 确认硬件和软件支持：CPU需支持VT-d（Intel）或AMD-Vi（AMD），主板支持IOMMU，显卡需兼容虚拟化，虚拟机软件如VMware ESXi、Proxmox VE、KVM等需支持GPU直通。
- 启用IOMMU：在BIOS中启用VT-d或AMD-Vi，Linux系统在
/etc/default/grub中添加intel_iommu=on或amd_iommu=on并更新GRUB。
- 配置虚拟机软件：以KVM为例，用
virsh edit <VM_NAME>编辑虚拟机XML配置文件，添加<hostdev>标签指定GPU的PCI地址来直通GPU。
- 安装驱动：在虚拟机中安装对应显卡驱动，如NVIDIA驱动，可通过命令行安装并配置环境变量。
- 使用虚拟GPU（vGPU）：
- 检查硬件和软件支持：需NVIDIA Tesla或A100等支持vGPU的显卡，安装NVIDIA驱动和CUDA Toolkit。
- 配置NVIDIA虚拟GPU软件：安装NVIDIA vGPU Manager，启用vGPU功能并创建虚拟GPU。
- 在虚拟机中配置：通过虚拟机管理软件为虚拟机分配虚拟GPU资源。