GPU服务器

如何部署ollama服务

Linux安装命令

  1. wget "https://down-monitor.yisu.com/share/deepseek/ollama_install.sh" -O ./install.sh && chmod a+x ./install.sh && ./install.sh

查看ollama服务

  1. systemctl status ollama

下载deepseek R1模型(1.5b 7b 32b 70b 671b)

  1. ollama pull deepseek-r1:7b

运行deepseek模型

  1. ollama run deepseek-r1:7b

查看deepseek模型

  1. ollama list

查看模型运行占用

  1. ollama ps

启动ollama服务

  1. systemctl start ollama

停止ollama服务

  1. systemctl stop ollama

部署 Open WebUI

  1. wget "https://down-monitor.yisu.com/share/deepseek/openui_install.sh" -O ./install.sh && chmod a+x ./install.sh && ./install.sh

访问应用

  1. 在浏览器中访问 http://<公网IP>:8080

ui