如何在CentOS上解决PyTorch安装问题 - 问答

在CentOS上安装PyTorch可能会遇到一些问题，但通过以下步骤，你可以解决大部分问题：

更新系统

首先，确保你的CentOS系统是最新的：

sudo yum update -y

安装Miniconda

Miniconda是一个轻量级的Anaconda发行版，包含了conda、Python以及180多个科学包及其依赖项。你可以从Miniconda的官方网站下载适合你系统的安装包，并按照安装向导进行安装。

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh

安装过程中，你需要接受许可协议、选择安装路径等。完成后，重启你的shell或终端。

创建虚拟环境

建议在虚拟环境中部署，以避免依赖冲突。例如，创建名为 study_torch 的虚拟环境，并安装Python 3.10：

conda create -n study_torch python=3.10
conda activate study_torch

配置conda源

为了加快下载速度并确保使用最新的PyTorch版本，可以配置conda源。编辑 ~/.condarc 文件，添加清华大学的镜像源：

channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forges/
show_channel_urls: true
auto_activate_base: false

安装PyTorch

根据你的需求选择CPU或GPU版本的PyTorch。以下是以CPU版本为例的安装命令：

conda install pytorch torchvision torchaudio cpuonly -c pytorch

如果你有NVIDIA GPU并希望使用GPU加速，可以参考在Linux服务器上配置PyTorch的教程，根据CUDA版本选择合适的PyTorch版本进行安装。

conda install pytorch torchvision torchaudio cudatoolkit=your_cuda_version -c pytorch

请将 your_cuda_version 替换为你的系统上安装的CUDA版本，例如 cudatoolkit11.1。

验证安装

安装完成后，可以通过以下代码验证PyTorch是否安装成功：

import torch
print(torch.__version__)
print(torch.cuda.is_available())

如果一切正常，你应该能看到PyTorch的版本号以及CUDA是否可用（取决于你的系统配置）。

配置GPU（可选）

如果你有NVIDIA GPU并希望使用GPU加速，确保CUDA和cuDNN已安装，并配置PyTorch使用GPU：

import torch
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

部署为服务（可选）

你可以使用Flask或FastAPI将模型部署为API服务。以下是一个简单的FastAPI示例：

from fastapi import FastAPI
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

app = FastAPI()
model_name = "deepseek-ai/deepseek-large"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

@app.post("/generate")
async def generate(text: str):
    inputs = tokenizer(text, return_tensors="pt").to(device)
    outputs = model.generate(**inputs)
    return {"response": tokenizer.decode(outputs[0], skip_special_tokens=True)}

if __name__ == "__main__":
    import uvicorn
    uvicorn.run(app, host="0.0.0.0", port=8000)

然后使用以下命令启动服务：

uvicorn app:app --host 0.0.0.0 --port 8000

希望这些步骤能帮助你解决在CentOS上安装PyTorch的问题。如果遇到其他问题，请查阅PyTorch的官方文档或相关社区论坛。

0 赞

0 踩