DeepSeek私有化部署7:openEuler 24.03-LTS-SP1安装Open WebUI
Open WebUI是一个
Open WebUI 是一个可扩展的、功能丰富、用户友好的自托管 AI 平台,专为完全离线运行而设计。 它支持多种 LLM 运行环境,包括 Ollama 和 OpenAI 兼容的 API,并内置了用于 RAG 的推理引擎,是一个强大的 AI 部署解决方案。
安装完成deepseek之后,仅仅是有了一个大模型。可以通过命令行去聊天或者api调用,对于普通用户来说,肯定是有个ui界面的体验会更好,所以今天给DeepSeek安装一个聊天界面。
Docker部署(个人推荐方式)
# 获取镜像
docker pull ghcr.io/open-webui/open-webui:main
#国内网络因素,如果拉取不下来可以用下面的命令拉取
docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:latest
镜像拉取成功后就可以启动镜像了
# 拉取github官方镜像的启动,可以将3000改为你想要监听的外部端口
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main> 数据卷映射 (Volume Mapping: -v
> open-webui:/app/backend/data):确保数据持久化存储,防止容器重启时数据丢失。 端口映射 (Port
> Mapping: -p 3000:8080):将 WebUI 暴露在本地机器的 3000 端口上。
> 要启用 Nvidia GPU 支持,在 docker run 命令中添加 --gpus alldocker run -d -p 3000:8080 --gpus all -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda# 如果是其他源拉取的镜像最好先给镜像改个名,以上述拉取的源为例拉取后镜像名字为:swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui
镜像名更改方法
# 获取镜像id
docker images
swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui v0.5.9 f5ceaaf2e610 4 weeks ago 4.27GB
# 更改镜像名
docker tag f5ceaaf2e610 openwebuidocker images
openwebui latest f5ceaaf2e610 4 weeks ago 4.27GB
镜像名更改成功后,在启动镜像时就需要用新的镜像名例如:
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui openwebui
#出现以下内容则是镜像启动成功,实际情况返回的字符串不一样,如果启动失败则返回其他内容
1c35257286eb1b3cfacc4dc354122b76a6835cc558234b264c1e26467ff32f28
pip安装
#pip安装open-webui
pip install open-webui
#开启open-webui服务
open-webui serve
手动安装
curl -LsSf https://astral.sh/uv/install.sh | sh
# 更改DATA_DIR为你的实际路径以保护你的数据
DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve
open-webui使用
启动成功后,在以下地址访问 Open WebUI:
http://localhost:3000
第一次使用需要注册管理员账户,登录成功后点击右上角,切换到管理员面板,在设置中选择外部连接,修改ollama api的接口地址,如果本机部署则使用默认的
http://host.docker.internal:11434
即可,如果是异地部署,则需要填写ollama服务的ip地址和监听端口
如果不使用openai api,可以直接将此选项关闭,可以提高登录时页面的加载速度。
如果本地部署了兼容openai api 的其他模型引擎,例如vllm,可以在此处修改为你的openai api地址