当前位置：首页 > news >正文

DeepSeek部署到本地（解决ollama模型下载失败问题）

news 2025/2/24 19:13:07

一、下载ollama软件安装

1、下载ollama软件 Ollama

下载完成后可以直接进行安装（外网，速度可能会有点慢）

2、修改安装目录

进去下载的目录，使用cmd打开终端输入OllamaSetup.exe /DIR=E:\MySoftware\Ollama

输入完成后会自动打开安装，直接install即可。

3、验证是否安装完成

使用ollama - v 查看版本号

二、下载deepseek模型

1、进入ollama官网，选择需要的模型文件进行复制（我这里下载的1.5版本）

2、使用ollama进行安装

1、远程拉取模型

使用 win+r 打开终端

输入复制的命令 ollama run deepseek-r1:1.5b

我这里是安装失败，网络连接失败了和网络有关，找了好久没有解决，所以只能添加模型镜像了

2、模型镜像添加

1、进入镜像网站下载Models - Hugging Face（外网可能需要梯子）进行下载

2、另外一个模型库网站阿里云的魔塔ModelScope 模型库首页 · 魔搭社区进行下载

3、等待下载完成，进入安装ollama的路径：我这里是 E:\wzk\Al 创建 deepseek-1.5b.mf文件，名字可以自己取。

deepseek-1.5b.mf文件内容：修改FROM为自己下载的镜像文件路径

# Modelfile generated by "ollama show"
# To build a new Modelfile based on this, replace FROM with:
# FROM deepseek-r1:7b

FROM E:\wzk\Al模型镜像\deepseek-1.5b.gguf
TEMPLATE """{{- if .System }}{{ .System }}{{ end }}
{{- range $i, $_ := .Messages }}
{{- $last := eq (len (slice $.Messages $i)) 1}}
{{- if eq .Role "user" }}<｜User｜>{{ .Content }}
{{- else if eq .Role "assistant" }}<｜Assistant｜>{{ .Content }}{{- if not $last }}<｜end▁of▁sentence｜>{{- end }}
{{- end }}
{{- if and $last (ne .Role "assistant") }}<｜Assistant｜>{{- end }}
{{- end }}"""
PARAMETER stop <｜begin▁of▁sentence｜>
PARAMETER stop <｜end▁of▁sentence｜>
PARAMETER stop <｜User｜>
PARAMETER stop <｜Assistant｜>