DeepSeek本地化部署与跨域访问架构构建

1. DeepSeek本地部署基础环境

1. 部署 Ollama 推理框架
2. 获取并加载 DeepSeek 大语言模型
3. 配置图形化用户界面 (GUI)
4. 构建本地知识库并集成

鉴于上述四个步骤已在之前的博客中详尽阐述，为避免重复，以下内容将不再赘述，仅作概要性描述

2. 局域网共享大模型配置

在局域网环境下，通过单机部署 DeepSeek-r1 (或其他预训练模型) 及本地知识库，并配置相应的网络服务，实现局域网内其他主机对该模型推理服务及知识库的访问。

1. 启动局域网访问权限

默认Ollama仅允许本地访问，需修改环境变量实现局域网共享：

• 创建用户环境变量

  1. WIN+R打开输入cmd，以管理身份启动CMD终端，执行如下两个命令创建用户和系统变量，系统多个“ /m”。

     setx OLLAMA_HOST "0.0.0.0"
     setx OLLAMA_ORIGINS "*"
     

     

• 创建系统环境变量

  1. 在电脑设置中搜索找到“编辑系统环境变量”并打开 编辑系统环境变量。
  2. 在系统属性面板中点击环境变量，点击新建系统变量。
  3. 新建系统变量名为：OLLAMA_HOST ,值设置为0.0.0.0 。
     
  4. 再次新建系统变量名称为：OLLAMA ORIGINS ，值设为：“ * ” 。
     
  5. 电脑右下角右键退出Ollama 程序后重新手动启动Ollama程序。

2. 局域网访问本地大模型配置

在同一局域网下的其他用户访问当前本地部署。无论是使用Page Assist、Anything LLM、Chatbox或Cherry Studio进行部署，都需要在主机与被访问主机上安装对应用的部署工具。

主机ip 地址查询，在CMD中 直接输入： ipconfig 回车即可显示。

2.1 浏览器插件

Page Assist浏览器插件安装与配置

1. 首先打开Chrome浏览器，进入应用商店
   
2. 在顶部搜索框中搜索Page Assist
   
3. 点击添加至Chrome

• 在弹出的提示框中点击添加扩展程序
  
  添加后在浏览器右上角的扩展程序图标中打开它即可看到Web UI界面了
  
• 被访问主机设置(Server)、：点击右上角设置，找到Ollama设置地址为http://[主机IP]:11434。
  
• 访问主机设置(Client)：访问主机将127.0.0.1 改为被访问主机IP 地址，如：192.168.50.80，端口默认11434 即可。
  

2.2 客户端工具

Anything LLM、Chatbox或Cherry Studio进行部署，配置API地址为http://[主机IP]:11434/v1，选择对应模型即可交互。

• 被访问主机设置：默认Api ：http://localhost:11434，保持默认即可
  
• 访问主机设置：访问主机将localhost改为被访问主机IP 地址，如：192.168.50.80，端口默认11434 即可。
  
• Anything LLM工具设置同上
  

3. 跨域公网访问大模型

一台主机本地部署了DeepSeek-r1 （或其他模型）以及数据（知识）库后，通过公网（外网）异地访问这台主机的大模型和数据，进行内网穿透设置，工具cpolar或路由侠。

1. 被访问主机安装路由侠

• 这里以路由侠为例，选择适合自己系统下载安装。

  # 路由侠地址：
  https://www.luyouxia.com/
  # cpolar地址：
  https://www.cpolar.com/
  

  
  2. 启动安装程序进行安装。
  3. 注册路由侠账户，并登录账户
  

2. 路由侠配置

• 启动软件后，设置点击内网映射。
  
• 点击添加映射 ，并进行配置
  
• 选择原生端口——开始创建。
  
• 配置公网地址：设置端口为Ollama 端口，然后点击创建。
  
• 创建完成后即显示创建的映射内容，右键复制地址，接下来将复制的地址粘贴到对应部署的工具中。
  

3.1 访问端设置

3.1.1 浏览器插件部署

• Page Assist访问端设置：将复制的地址粘贴在Ollama 设置——Ollama URL 中保存，重启浏览器。
  

3.1.2 客户端工具

• Cherry studio访问端设置：在设置——模型服务——Ollama——API地址中粘贴地址，再添加模型设置后重启Cherry studio。
  
• AnythingLlm访问端设置：首选项——Ollama——Ollama URL 中粘贴复制的地址，设置完成后设置后重启AnythingLlm。
  

注：提示错误 Ollama call failed with status code 403:

检查环境变量——用户变量及系统变量是否有Ollama的变量设置。