当前位置: 首页 > news >正文

DeepSeek私有化部署7:openEuler 24.03-LTS-SP1安装Open WebUI

Open WebUI是一个

Open WebUI 是一个可扩展的、功能丰富、用户友好的自托管 AI 平台,专为完全离线运行而设计。 它支持多种 LLM 运行环境,包括 Ollama 和 OpenAI 兼容的 API,并内置了用于 RAG 的推理引擎,是一个强大的 AI 部署解决方案。

安装完成deepseek之后,仅仅是有了一个大模型。可以通过命令行去聊天或者api调用,对于普通用户来说,肯定是有个ui界面的体验会更好,所以今天给DeepSeek安装一个聊天界面。

Docker部署(个人推荐方式)

# 获取镜像
docker pull ghcr.io/open-webui/open-webui:main
#国内网络因素,如果拉取不下来可以用下面的命令拉取
docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:latest

镜像拉取成功后就可以启动镜像了

# 拉取github官方镜像的启动,可以将3000改为你想要监听的外部端口
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main> 数据卷映射 (Volume Mapping: -v
> open-webui:/app/backend/data):确保数据持久化存储,防止容器重启时数据丢失。 端口映射 (Port
> Mapping: -p 3000:8080):将 WebUI 暴露在本地机器的 3000 端口上。
> 要启用 Nvidia GPU 支持,在 docker run 命令中添加 --gpus alldocker run -d -p 3000:8080 --gpus all -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda# 如果是其他源拉取的镜像最好先给镜像改个名,以上述拉取的源为例拉取后镜像名字为:swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui

镜像名更改方法

# 获取镜像id
docker images
swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui   v0.5.9     f5ceaaf2e610   4 weeks ago     4.27GB
# 更改镜像名
docker tag f5ceaaf2e610 openwebuidocker images
openwebui  latest f5ceaaf2e610   4 weeks ago     4.27GB

镜像名更改成功后,在启动镜像时就需要用新的镜像名例如:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name  open-webui openwebui
#出现以下内容则是镜像启动成功,实际情况返回的字符串不一样,如果启动失败则返回其他内容
1c35257286eb1b3cfacc4dc354122b76a6835cc558234b264c1e26467ff32f28

pip安装

#pip安装open-webui
pip install open-webui
#开启open-webui服务
open-webui serve

手动安装

curl -LsSf https://astral.sh/uv/install.sh | sh
# 更改DATA_DIR为你的实际路径以保护你的数据
DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve

open-webui使用

启动成功后,在以下地址访问 Open WebUI:

http://localhost:3000

第一次使用需要注册管理员账户,登录成功后点击右上角,切换到管理员面板,在设置中选择外部连接,修改ollama api的接口地址,如果本机部署则使用默认的

http://host.docker.internal:11434

即可,如果是异地部署,则需要填写ollama服务的ip地址和监听端口
如果不使用openai api,可以直接将此选项关闭,可以提高登录时页面的加载速度。
如果本地部署了兼容openai api 的其他模型引擎,例如vllm,可以在此处修改为你的openai api地址


http://www.mrgr.cn/news/93830.html

相关文章:

  • MYSQL之创建数据库和表
  • 用Python写一个算24点的小程序
  • 【STM32】STM32系列产品以及新手入门的STM32F103
  • [总概]Vue2/3React Diff算法
  • 【经验分享】Ubuntu20.04编译RK3568 AI模型报错问题(已解决)
  • FPGA时序约束的几种方法
  • 【redis】五种数据类型和编码方式
  • 【2025前端高频面试题——系列二之vue生命周期:vue2】
  • 如何将本地已有的仓库上传到gitee (使用UGit)
  • 解锁DeepSpeek-R1大模型微调:从训练到部署,打造定制化AI会话系统
  • MySql自动安装脚本
  • 【单片机】ARM 处理器简介
  • webshell一些上传心得
  • LeetCode --- 439周赛
  • AFL++安装
  • 《苍穹外卖》SpringBoot后端开发项目重点知识整理(DAY1 to DAY3)
  • 【Git】linux搭建Gitea配置mysql数据库
  • nlp培训重点-5
  • OSPF的各种LSA类型,多区域及特殊区域
  • windows:curl: (60) schannel: SEC_E_UNTRUSTED_ROOT (0x80090325)