本地免费部署deepseek-r1详细教程

广告

第1步：安装ollama

官方下载地址：https://ollama.com，下载安装。

安装完在cmd里运行 ollama -v ，能正确显示版本号就表示安装成功了

第2步：运行模型（仅需1条命令）

进入 ollama 的 deepseek-r1 介绍页面，根据自己的硬件情况，选择一个合适的版本，复制命令到cmd运行即可（建议32b及以上）

https://ollama.com/library/deepseek-r1:32b

例如7b模型： ollama run deepseek-r1:7b

首次运行会自动下载模型（最后1%下载很慢，可 ctrl+c 中断后重新运行命令，续传就快了）

运行完命令可在控制台直接对话，如下图（Windows），linux同样的命令：

第3步：将API地址配置到后台

Ollama默认服务端口是11434，其提供的OpenAI格式的API地址为：

http://[ip地址]:11434/v1/chat/completions 

附几个ollama常用命令：

ollama -v ：查看ollama版本号

ollama run [模型名称] ：运行一个模型

ollama serve ：启动ollama服务

ollama list ：列出本地所有可用的模型

ollama rm  [模型名称] ：删除一个已安装的模型