如何把DeepSeek部署在自己家的电脑里

美国有闭源的ChatGPT,中国有开源的DeepSeek,DeepSeek才是真正的OpenAI。

如何把DeepSeek部署在自己家的电脑里

那为什么我们需要部署本地的AI大模型呢?

因为把AI大模型部署在本地电脑,你就可以:

1 处理需要保密的个人数据而不担心泄露隐私

2 省钱,本地部署AI大模型,可以节省api调用的开支,可以随心所欲的使用AI大模型的能力

3 灵活性,本地搭建的AI大模型还可以和其他工具相结合使用,例如comfyUI

4 可以更方便地研究AI技术,例如定制开发自己的个性化AI产品

但是凡事都有利弊,部署本地AI大模型需要一台配置比较高的电脑,例如显卡需要RTX 4060 Ti 16GB的显卡,大内存例如32GB以上的内存。

如何把DeepSeek部署在自己家的电脑里

而DeepSeek就是一个非常好的AI大模型,现在我们就来讲讲如何把DeepSeek部署到我们自己的个人电脑上。

第一步:安装ollama

Ollama官网:https://ollama.com/

进入ollama的官网并下载适合自己操作系统的版本即可,这里我使用的Windows系统,所以就下载Windows版本的安装程序。

如何把DeepSeek部署在自己家的电脑里

下载好以后,点击并安装ollama。安装方法很简单,点击安装,根据提示安装完以后,点击ollama的桌面图标运行。

运行后,可以在系统托盘看见ollama已经开始运行了。

如何把DeepSeek部署在自己家的电脑里

第二步,下载所需的AI大模型

打开ollama的官网,点击左上的Models,找到DeepSeek R1并点击进入

如何把DeepSeek部署在自己家的电脑里

DeepSeek R1的最强满血版本的参数是671B,它也有其他参数的版本,我们可以理解成参数越大,大模型越聪明,同时也需要更大的算力(需要更好的显卡),我这里就选择7b参数的版本来演示。

如何把DeepSeek部署在自己家的电脑里

左侧菜单选择7b参数的选项,右侧复制相对应的命令,“ollama run deepseek-r1:7b”

先关闭之前已经运行的ollama

如何把DeepSeek部署在自己家的电脑里

同时按下win键+R键,弹出如下窗口

如何把DeepSeek部署在自己家的电脑里

点击ok,打开命令行

如何把DeepSeek部署在自己家的电脑里

将刚才复制的命令,“ollama run deepseek-r1:7b”,黏贴到命令行里,按下回车,就会开始自动下载DeepSeek 7b模型了。

如何把DeepSeek部署在自己家的电脑里

下载成功后,就可以和DeepSeek对话了。

如何把DeepSeek部署在自己家的电脑里

第三步,使用Chatbox和DeepSeek R1聊天

打开之前我们下载过的Chatbox

如何把DeepSeek部署在自己家的电脑里

 

在设置里面选择DeepSeek R1模型,保存设置即可使用了。

如何把DeepSeek部署在自己家的电脑里

如何把DeepSeek部署在自己家的电脑里

感谢阅读本文~如果此内容有用,欢迎点赞、转发、在看。

如果觉得有用就关注下吧

如何把DeepSeek部署在自己家的电脑里

原创文章,作者:清凉油,如若转载,请注明出处:http://www.kzd001.com/1107.html

(2)
上一篇 2025年1月24日 下午2:30
下一篇 2023年9月14日 下午1:24

相关推荐