部署离线DeepSeek-R1模型,搭建私域知识库(Windows版)

温问问

已于 2025-02-14 10:45:36 修改

阅读量1k

点赞数 7

分类专栏：数据模型使用文章标签： deepseek

于 2025-02-11 14:33:40 首次发布

本文链接：https://blog.csdn.net/qq_24886681/article/details/145487952

版权

数据模型使用专栏收录该内容

1 篇文章

订阅专栏

一、前言：

最近DeepSeek-R1火爆，父老乡亲们都都抱着极大的热情在体验DeepSeek，那么DeepSeek在传统制造业中有没有什么快速应用的场景呢？本人也一直在制造业中做开发，也结合公司当前情况做过思考，AI时代的来临，智能制造推行多年，受限于成本因素（绝大多数吧？）大多数制造业都没有在推行。年前的DeepSeek火爆其他部门的同事聊天也会聊到这个，结合实际的情况，想着能否将公司的知识文件收集起来搭建一个属于公司的私域知识库，该篇文章写的很浅不讲原理(小白也不会讲哈哈哈哈哈)，用来摸索小白如何实现知识库，巨老们如果有啥建议可以留言哈

注意：非Docker版

二、环境工具说明

1、操作系统：Windows10 专业版

2、工具集：

(1)、NodeJS(22.13.0)

(2)、Microsoft Visual C++ 2015-2022 Redistributable(X64)

(3)、Ollama version 0.5.7

(4)、AnythingLLM 1.7.3-r2

3、DeepSeek模型版本：R1-7B(没有硬件环境，找个硬件需求低的版本跑跑)

三、配置过程

1、安装NodeJS、Microsoft Visual C++2015-2022（安装完重启操作系统），AnythingLLM依赖该组建，没有安装的话在导入知识文件时会产生如下错误：

The specified module could not be found.
1\?\C:\Program、Files\AnythingLLM\resources\backend\node modulesonnxruntime-node\bin\napi-v3\win32\x64\onnxruntime binding.node

2、安装Ollama

注意：Ollama会默认安装到：C:\Users%username%\AppData\Local\Programs\Ollama

模型：C:\Users%username%.ollama\models，可以安装之后在做迁移

一路点下一步直到安装完成，安装完成之后会有如下图标（安装完之后退出运行中的Ollama做路径迁移）

迁移Ollama安装路径下的文件、及模型文件夹方法：

（1）、Ollama安装文件夹迁移之后，用户变量中Path参数需要调整

（2）、打开系统环境变量，新建OLLAMA_MODELS变量（模型迁移后）

如果要搭配OpenWeb UI之类的话建议开启Ollama 允许浏览器跨域请求

（1）、打开系统变量，新增OLLAMA_ORIGINS变量，变量值：*

以上工作做完之后，管理员权限运行cmd，加载deepseek-r1:7b 模型

(1)、运行指令：

其他模型可到https://ollama.org.cn/search查寻

Ollama run deepseek-r1:1.5B
Ollama run deepseek-r1:7b  --当前使用
Ollama run deepseek-r1:8b
Ollama run deepseek-r1:14b
Ollama run deepseek-r1:32b
Ollama run deepseek-r1:70b

(2)、模型加载后会自动进入deepseek模型对话界面