当前位置: 首页 > news >正文

docker-compose install dify(deepseek)

dify前言

Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。

由于 Dify 内置了构建 LLM 应用所需的关键技术栈,包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排,并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间,使其可以专注在创新和业务需求上。

前提要求 

  • Linux安装 docker docker-compose 参考
  • Windows 10 ,11 2022 docker docker-compose 参考

创建一键部署dify自动化脚本

  • docker mirrors repo参考
  • docker-compose 安装dify参考
  • 本地dify部署参考
  • dity docker images 离线包,百度网盘下载
vim /ditf_install.sh
#!/bin/bash
# -*- coding: utf-8 -*-
# Author: CIASM
# update 2025/02/25
# make.han<<!
# docker-compose install dify
https://docs.dify.ai/getting-started/install-self-hosted/docker-compose# 本地安装dify参考
https://docs.dify.ai/getting-started/install-self-hosted/local-source-code# dify github
https://github.com/langgenius/dify
!# 假设当前最新版本为 0.15.3
echo "git download dify"
cd /opt && git clone https://github.com/langgenius/dify.git --branch 0.15.3echo "copy .env"
cd /opt/dify/docker && cp .env.example .envecho "Lift the file upload size limit"
cd /opt/dify/docker
sed -i 's/^NGINX_CLIENT_MAX_BODY_SIZE=.*$/NGINX_CLIENT_MAX_BODY_SIZE=1500M/' .env
sed -i 's/^UPLOAD_FILE_SIZE_LIMIT=.*$/UPLOAD_FILE_SIZE_LIMIT=1500/' .envecho "start dify"
cd /opt/dify/docker
docker-compose up -d

执行一键安装ditf(docker)

  • 执行安装前满足docekr docker-compose 
bash /ditf_install.sh

dify 登录初始化

  • http://YOU_IP
  • 首次登录创建用户名密码(自定义的) 

进入dify首页

配置dity本地deepseek

选择需要连接模型供应商

  • ollama

配置ollama的deepseep api 接口

  • 完整的模型名称deepseek-r1:1.5b
  • 基础url ollama api 接口地址  http://192.168.11.22:11434/ 

创建一个空白应用>聊天助助手(定义名称)

测试dify下deepseek ai

  • 底部管理可以开启对应功能

配置 Embedding 模型

  • ollama pull bge-m3 Embedding模型的作用是将高维数据(如文本、图像)转换为低维向量

添加ollama

  • 模型类型选择Text Embedding
  • 模型名称 bge-m3
  • 基础url ollama api 地址 http://YOU_IP:11434

增加完成Text Embedding

创建知识库

  • 进入dify控制台,选择"Dataset"→"Create New",上传文档文件,这里的文档支持多种格式,也支持从notion当中导入,还可以同步外部的站点 
  • ollama 安装参考

上传资料

  • 默认文件限制大小15MB 解决 vim /opt/dify/docker/.env
  • .env 更改859行 NGINX_CLIENT_MAX_BODY_SIZE=1500M 最大文件上传限制
  • .env 更改563行 UPLOAD_FILE_SIZE_LIMIT=1500 文件大小限制
  • 重载配置生效 cd /opt/dify/docker && docker-compoer up -d && docker-compose restart

保存并处理

知识库创建完成

添加知识库为deepseek对话上下文

  • 应用内添加知识库

deepseek 上下文增加文档

deepseek测试文档内容提问

创建一个ChatFlow

变量名任意

添加文档提取器 

  • 删除默认的文档提取器

增加直接回复节点 

  • 删除默认直接回复节点

预览

上传一个文件

输入任意字符点发送,可看到能够正确读取文档中的内容


http://www.mrgr.cn/news/92382.html

相关文章:

  • Spring boot中的@ConfigurationProperties注解
  • IP------PPP协议
  • Apache DolphinScheduler系列1-单节点部署及测试报告
  • haproxy基本配置详解
  • 网络基础知识-2
  • go基础语法
  • Java常见设计模式(中):结构型模式
  • 最小化重投影误差求解PnP
  • 【蓝桥杯】第十五届省赛大学真题组真题解析
  • SQL注入(order by,limit),seacms的报错注入以及系统库的绕过
  • 登录逻辑结合redis
  • 第二十:【路由的props配置】
  • java后端开发day19--学生管理系统升级
  • C#使用Semantic Kernel:接入本地deepseek-r1
  • CSS—引入方式、选择器、复合选择器、文字控制属性、CSS特性
  • 深度学习pytorch之19种优化算法(optimizer)解析
  • java后端开发day18--学生管理系统
  • Language Models are Unsupervised Multitask Learners,GPT-2详细讲解
  • 【考研】复试相关上机题目
  • React进阶之前端业务Hooks库(三)