2.4-Ollama+DeepSeek本地部署（新人必看）

DeepSeek 可以通过 DeepSeek 官方的 API 调用，也可以在本地运行。这篇主要介绍本地部署。

第一步，安装 ollama

Ollama 是一个本地运行大语言模型（LLM）的工具，支持 DeepSeek、Llama、Mistral 等开源 AI 模型，允许用户在本地推理和交互。

Ollama 提供高效的模型管理和轻量级 API，并支持 CPU 和 GPU 加速。与云端 API 相比，它更安全、可以离线运行，适用于本地开发、私有数据处理和 AI 应用开发。

我使用 macOS；如果你使用 Windows，下载对应的 Windows 版本即可。

下载完成后，macOS 上无需安装，双击解压，再将 App 拖到应用程序中即可。

双击后 Ollama 就会运行，但不会显示界面。

可以在导航栏看到这个可爱的小图标，就表示 Ollama 已经成功运行了。

也可以在浏览器输入 http://localhost:11434/ ，查看运行状态。

Windows 用户可以双击安装包，也可以通过命令行安装。默认情况下，Ollama 会安装到 C 盘；如果想自定义安装路径，可以使用命令行工具。有 C 盘洁癖的同学也可以用这种方式。安装命令如下：

OllamaSetup.exe /dir=<自定义目录>

输入命令并回车：

安装完成之后先别着急拉模型，可以添加两个环境变量：

OLLAMA_HOST                  0.0.0.0:11434
OLLAMA_MODELS                E:\MySoftware\Ollama\models
复制代码

其中 OLLAMA_HOST 用来定义 ollama的主机地址，允许其他用户可以调用，否则仅能使用 localhost 进行本地调用 OLLAMA_MODELS 用来定义模型的下载地址，否则默认还是会下载 C 盘

设置完环境变量后，切记要重新启动一下 ollama，保证配置生效

DeepSeek-R1 是 DeepSeek 团队推出的一款开源、支持 128K 长文本上下文的 Transformer 大语言模型，在代码生成、数学推理等任务上表现出色。

ollama 支持 deepseek 的全尺寸版本，比如说 1.5b、7b、8b、14b 等，本地建议安装 7b 版本，体积大小最合适。

然后在控制台输入 ollama run deepseek-r1:7b 运行，我家的网速一般，拉取模型花了不少时间。截图时速度有 2.5M/s，但不太稳定，慢的时候只有 300 多 kb，所以这一步需要耐心等待。

image.png

我差不多花了一个晚上才搞定，截图时已经是第二天了，确实很耗耐心。

等 deepseek 拉取完成后，就可以在控制台进行交互了，直接输入文本进行提问就可以了。

补充：如果拉取模型时遇到下载速度问题（开始时速度快，结束时变慢），可以尝试按 ctrl+c 中断下载，再重新执行 ollama run deepseek-r1:7b 命令。Ollama 有类似断点续传的效果，会接着之前的进度继续下载，而不是从 0 开始重新下载，速度也会重新提上来。

如果你之前已经安装了 ollama 和 DeepSeek，那么只需要先启动 ollama，然后 run deepseek 就好了。

application.yml 中我做了说明。注意本地和 DeepSeek 官方的 URL 不太一样，model 也不一样，key 本地的话不用填写，我本地用的是 7b 版本。

配置成功后，可以在聊天助手中测试，后台也不会报错。