✨deepseek本地部署(出去惹出祸来别报为师的名字)✨20250517

为什么只说它不说其他AI?

所有产品都有它的优缺点，就像我上一篇文章也只是在写博客的图片问题上提出合不合适

骗你的，其实主要是懒得做，等有人需要再说

为什么第一个介绍这个？

当然是为了蹭一下热度啦

好用啊，我是从gpt3.5开始接触的ai，市面上大多数的我都体验过，前前后后花了快50美金（/(ㄒoㄒ)/~~，当初不懂事，不懂开源的快乐，点赞关注为我回血hh）。

deepseek最大的优势自然是开源免费了（他的token也很便宜，不免费也花不了多少）

第二就是以为他是推理类的模型，不需要像有些模型一样去“训练”，就是他的深度思考功能，你问他他就会给你一套东西，而不是没限定就瞎说一通（没错，就是你想的那个）

他能够自己形成一套东西，而不需要你给他一个模板，不然他就胡言乱语。

为什么要本地部署AI？

这个能说吗？

互联网时代，兄弟们都是注重隐私的人，还有一些工作资料需要保密之类的

零、装前提示

小朋友么快快回家，这是严肃的科研问题，不支持心智未成熟小孩的深入研究

一、安装准备

动动你的小手，打开电脑设置，搜索“设备规格”，进去看你的显卡和内存条，显卡4G显存一下和内存条16G以下的小伙伴，可以出门右拐慢走不送了，开玩笑的，哥们这么宠你们怎么可能呢哈哈§(*￣▽￣*)§§(*￣▽￣*)§

设备跟不上的直接上满血的官方版，下一期我会出一个关于deepseek使用的，主要还是图文，需要视频实操介绍可以call我，人多就做视频，人少就。。看情况了哈哈(* ￣︿￣)。

还有就是C盘记得留一定的空间，当然，可以改到其他盘，但是他的安装不是那么智能，需要一点技巧，而这东西当然是麻烦的了，不想搞啊（人多需要再多）。

二、安装流程

目前为止我了解到的最简单的安装方式有两种，一个是gpt4all，一个就是经典的Ollama了

1、资源下载

gpt4all： GPT4All – The Leading Private AI Chatbot for Local Language Models （这个我在蓝奏云额外放了一份）

Ollama： Ollama （这个有点大，最新版的快一个G了，我放网盘不如你们直接到官网下载）

功能强大，支持知识库，可扩展性强

Ollama外接的浏览器插件： https://chromewebstore.google.com/detail/page-assist-%E6%9C%AC%E5%9C%B0-ai-%E6%A8%A1%E5%9E%8B%E7%9A%84-web/jfgfiigpkhlkbnfnbobbkinehhfdhndo

当然，我不可能对兄弟们这么狠心的，我吧他们放在阿里云盘里面（有其他需要的再说，这个免费的速度就还不错）

gpt4all的安装文档

2、gpt4all安装咯

官方的安装文档，这个简单的不截图了 Quickstart - GPT4All

给我一直点下一步，当然你也可以在最开始的安装界面选择一下本地缓存的文件夹，C盘大懒得选的不要管

安装目录就别扣扣索索的了，直接C盘不解释，也就两G不到

进去之后准备下载模型

进去后关注最后一位数字B，他前面的数字越大代表需要的配置越高，如果4显存多年战友的，果断选择7B或者8B

下好了就转到聊天，别问我为什么直接截图官方教程，还不是因为懒。

加载好模型后就玩你的了，去吧宝贝

3、Ollama安装，这个要麻烦一点

这个东西就相当于一个后台的运用，你安装好后会跳出一个cmd终端界面

就是这个东西，但不是这个界面，安装好后会自己跳出来的，如果没跳就到你的安装目录哪里，地址栏CMD或者直接右键进入中断，在里面准备输入下载代码

到官网找命令符，要几B的就下载几B的（上面讲了差别不赘述了）

比如说这个最新的7b的运行代码就是

ollama run deepseek-r1:7b

按下回车后等安装完成就行了。

完成好后检查右下角有没有一个羊头

到此为止，你就可以正常运行了，但现在只能在CMD窗口里面运行

因此还要外接一个浏览器的插件，方便你们使用

这个插件没什么好说的直接安装在上面就行，调整一下设置就好

那到目前位置，兄弟们的本地快乐ai就部署好了，想问什么就问什么把。

4、关于本地部署的额外增强——本地知识库工具，这个的话留个悬念，那天说的人说了我再来做这个，你们只要安心用好现在的就像了

至于为什么不做的再深入一点，这不是一个个试试看兄弟们对那个感兴趣吗，不如一个人这没那么多精力啊。

Ps:要是在外面出去惹出祸来别报哥们的名字

Ps:对这个感兴趣想要交流的，下面评论，到时候我建个群分享一下使用心得

老规矩画大饼：之后有打算做本地部署的生图AI，具体那个暂时保密，兄弟们可以猜下，或者投票想要那个。