【DeepSeek】DeepSeek概述 | 本地部署deepseek
目录
1 -> 概述
1.1 -> 技术特点
1.2 -> 模型发布
1.3 -> 应用领域
1.4 -> 优势与影响
2 -> 本地部署
2.1 -> 安装ollama
2.2 -> 部署deepseek-r1模型
1 -> 概述
DeepSeek是由中国的深度求索公司开发的一系列人工智能模型，以其高效的性能和低成本的训练而受到关注。以下是其主要介绍：
1.1 -> 技术特点
- 混合专家架构(MoE)：DeepSeek-V3采用MoE架构，总参数达6710亿，但每个输入只激活370亿参数，通过动态冗余策略，在推理和训练过程中保持最佳的负载平衡，大大降低了计算成本，同时保持高性能。
- 多头潜在注意力(MLA)：引入多头潜在注意力机制，通过低秩联合压缩机制，将Key-Value矩阵压缩为低维潜在向量，显著减少内存占用。
- 无辅助损失负载均衡：采用无辅助损失负载均衡策略，最小化因鼓励负载均衡而导致的性能下降。
- 多Token预测(MTP)：采用多Token预测目标，证明其对模型性能有益，并可用于推理加速。
- FP8混合精度训练：设计了FP8混合精度训练框架，首次验证了在极大规模模型上进行FP8训练的可行性和有效性。
- 知识蒸馏：DeepSeek-R1通过知识蒸馏，将长链推理(CoT)模型的推理能力蒸馏到标准LLM中，显著提升了推理性能。
1.2 -> 模型发布
- DeepSeek-V3：2024年12月发布，总参数达6710亿，采用创新的MoE架构和FP8混合精度训练，训练成本仅为557.6万美元，在聊天机器人竞技场(Chatbot Arena)上排名第七，在开源模型中排名第一，是全球前十中性价比最高的模型。
- DeepSeek-R1：2025年1月发布，性能与OpenAI的o1正式版持平，并开源，在Chatbot Arena综合榜单上排名第三，与OpenAI的o1并列，在高难度任务上表现出色。
- Janus-Pro：2025年1月28日发布，分为7B(70亿)和1.5B(15亿)两个参数量版本，且均为开源，在多模态理解和文本到图像的指令跟踪功能方面取得重大进步，同时增强了文本到图像生成的稳定性，在多项基准测试中表现出色，甚至强于OpenAI旗下的DALL-E 3，以及Stable Diffusion。
1.3 -> 应用领域
- 自然语言处理：能够理解并回答用户的问题，进行文本生成、翻译、摘要等任务，可用于智能客服、内容创作、信息检索等领域。
- 代码生成与调试：支持多种编程语言的代码生成、调试和数据分析任务，帮助程序员提高工作效率。
- 多模态任务：如Janus-Pro模型可进行文生图、图生文等多模态任务，在图像生成、图像理解等方面有应用潜力。
1.4 -> 优势与影响
- 成本效益高：通过算法优化和架构创新，在保证性能的前提下，大幅降低了训练和推理成本，使AI技术更易于普及和应用。
- 开源策略：采用完全开源策略，吸引了大量开发者和研究人员的关注，促进了AI社区的协作和技术的快速发展。
- 推动行业变革：DeepSeek的成功挑战了传统的“大力出奇迹”的AI发展模式，为行业提供了新的发展思路和方向，激发了更多的创新和探索。
2 -> 本地部署deepseek
2.1 -> 安装ollama
ollama官网
- 点击Download下载
- 选择对应的操作系统，本次以Windows操作系统为例
点击Download for Windows下载。
- 下载完成后，打开文件开始安装OllamaSetup
- 点击Install开始下载，等待下载完成
- 检查是否安装成功
win+R输入cmd调出命令行进入到命令模式，输入命令ollama -v查看是否安装成功，输入完命令出现了版本号的话就说明安装成功。
2.2 -> 部署deepseek-r1模型
- 回到ollama官网点击左上角的Models进入如下界面。并选择第一个deepseek-r1，点击进入
- 选择适合自己电脑配置的版本
- 选择好后，复制对应版本后的命令
- win+R输入cmd调出命令行进入到命令模式，输入命令
如果觉得下载速度慢，可以Ctrl+C先退出这个命令，然后再输入命令重新进行下载，还是会接着上次的下载进度继续下载，速度会稍微快一些。
- 下载完成后会出现success，接下来就可以进行对话了
- 问一个AI经常会出错的问题：9.11和9.9哪个大
可以看到，会给出思考过程以及最终结论。
- 输入命令/bye可以退出对话
- 输入命令ollama list可以查看下载好的模型
- 输入ollama run + 对应的模型就可以进入对话
这里输入ollama run deepseek-r1:latest可以发现再一次进入对话。
这样本地部署deepseek就算完成啦
感谢各位大佬支持！！！
互三啦！！！