主页 > 游戏开发  > 

Deepseek本地部署

Deepseek本地部署
一,Deepseek本地部署方式

有UI且简单:LM Studio、Text Generation WebUI。

高效率但无UI:Ollama、LLama.cpp、Tabby。

二,通过Ollama本地部署Deepseek 1,什么是Ollama

Ollama是一个开源的 LLM(大型语言模型)服务工具,用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型,包括如Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。

2,下载Ollama

下载地址: ollama /

下载后直接安装即可,安装完后通过以下命令查看是否安装成功

//通过win+R 输入cmd,打开黑窗口后输入下面命令,可以查看安装的ollama版本号 ollama -v

3,在ollama上安装deepseek

在ollama官网上可以直接下载安装deepseek,根据自己的显卡性能选择不同大小的模型 不建议安装1.5版本,有点弱智,各个版本要求如下 复制deepseek安装命令到黑窗口,等待安装完成就可以对话了

//allama上下载deepseek模型 ollama pull deepseek-r1:8b //ollama上下载安装并运行deepseek的命令 ollama run deepseek-r1:8b //暂停deepseek安装命令 Ctrl+C //退出deepseek模型 Ctrl+D //查看ollama上安装了那些模型 ollama list //根据模型版本,运行deepseek模型 ollama run deepseek-r1:8b

4,安装可视化操作界面Chatbox

上面虽然可以和deepseek交互,但是不美观,所以我们需要安装一个可视化界面方便操作。Chatbox就是专为新手设计的免费工具客户端! Chatbox就像一个「聊天窗口」,界面美观简洁,让你用最直观的方式在本地向DeepSeek等AI模型提问、写代码、翻译文字、实时联网搜索与查询、AI图片生成,而无需懂编程。 Chatbox AI 支持所有的主流 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上免费使用。

Chatbox下载地址: chatboxai.app/zh

标签:

Deepseek本地部署由讯客互联游戏开发栏目发布,感谢您对讯客互联的认可,以及对我们原创作品以及文章的青睐,非常欢迎各位朋友分享到个人网站或者朋友圈,但转载请说明文章出处“Deepseek本地部署