本地部署DeepSeek大模型

环境：nuc工控机器 x86架构  ubuntu20.04

1、浏览器打开Download Ollama on Linux，复制命令。

2.打开终端，输入命令。

curl -fsSL ollama /install.sh | sh

 等待安装，安装完成后，终端输入 ollama，输入以下参数列表，说明ollama安装成功了。

2.下载DeepSeek R1模型:

在ollama官网左上角点击 Models 选项卡，

选择一个模型，这里选择7B模型，7B模型运行起来占大概5G的显存，复制指令。

正在下载7B的DeepSeek R1模型了。

 

3.在VScode中配置

安装 continue -*, 侧边栏出现图标。

点击图标，

将 continue -* 移至右侧，不影响工作区的内容。

按照上图所示，选择deepseek-r1 7b。

测试：

终端打开 ollama ps,可以看到deepseek-r1 7b正在运行。

使用  ollama stop deepseek-r1:7b,关闭deepseek-r1 7b。

切换模型：

 

 

 

重新打开VScode，选择 qwen2.5 模型