Wiki知识库

ollama+open-webui部署本地deepseek大模型

admin 发布时间：2025-02-06 08:49

ollama 官方网站:  https://ollama.com/

ollama 镜像源:  https://docker.aityp.com/r/docker.io/ollama/ollama

windows安装ollama

 https://ollama.com/download/OllamaSetup.exe

linux安装ollama

curl -fsSL https://ollama.com/install.sh | sh

macOs安装ollama

 https://ollama.com/download/Ollama-darwin.zip

ollama 下载deepseek模型

ollama run deepseek-r1
# 可选 电脑显卡要求配置高
ollama run deepseek-r1:14b

open-webui 镜像资源:  https://docker.aityp.com/r/ghcr.io/open-webui/open-webui

运行open-webui

docker run -d -p 3002:8080 --add-host=host.docker.internal:host-gateway \
          -e OLLAMA_BASE_URL=http://192.168.31.140:11434 \
          -v /data/docker-volumes/open-webui:/app/backend/data \
          --name open-webui \
          --restart \
           unless-stopped swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:v0.5.7

# OLLAMA_BASE_URL ollama 地址

运行成功

image.png