本地部署deepseek

1 安装

视频资源：DeepSeek 3分钟完全本地部署 保姆级教程 断网运行-无惧隐私威胁 大语言模型 CPU GPU 混合推理32B轻松本地部署!
使用“ollama”部署

1.1 ollama介绍

1.2 下载

(1)

1.2 ollama配置

配置模型的地方，不配置会把模型下载到C盘

1.4 下载模型

选择合适的模型进行下载

• deepseek-r1 适合深度的搜索
• deepseek-v3 适合日常的交流
  
  点击复制，进入电脑的命令执行窗口
  

执行完毕：

小小测试一下：

输入“ /bye”退出

到此，说明，ollama和模型已经搭建完毕，下面进入知识库软件的搭建

2、搭建知识库

2.1 搭建docker

官网：Docker官网

2.1 RAGFIow

普通Windows电脑选这个下载就行了，如果电脑是ARM的，选下面的。

等待下载即可


右键安装，可能需要5-10min，耐心等待。

安装完毕，建议重启，无需重启。

输入docker，输出下面这些就说明安装成功。

2.1 2 安装镜像

打开docker

报错，重启电脑。

在设置这里加镜像源的配置

复制下面仓库，加入上面

"registry-mirrors":[
	"https://hub.rat.dev"
]

最终：

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "registry-mirrors":[
	"https://hub.rat.dev"
  ]
}

点击“Apply”

2.2 安装ragflow

RAGFlow官网-gihub
下载克隆仓库

git clone https://github.com/infiniflow/ragflow.git

下载完成


修改模型，默认的模型不完整，

进入目录：

使用下面命令，启动虚拟机环境

docker compose -f docker-compose.yml up -d

docker没有配置环境变量

1、在 Windows 上，你可以通过以下步骤检查和添加环境变量：

• 右击“此电脑”（或“计算机”），选择“属性”。
• 点击“高级系统设置”。
• 在“系统属性”窗口中，点击“环境变量”。
• 在“系统变量”区域，找到名为 Path 的变量，并点击“编辑”。
• 检查 Docker 的安装路径（通常是 C:\Program Files\Docker\Docker\bin）是否已经在列表中。如果没有，点击“新建”，并添加该路径。

2、在 macOS 或 Linux 上，

• 通常 Docker 的安装脚本会自动将 Docker 的可执行文件路径添加到系统的 PATH 环境变量中。如果没有，你可能需要手动添加。

测试：docker -v

打开镜像：
进入目录：F:\softWare\aIModel\ragflow\docker
输入命令：

docker compose -f docker-compose.yml up -d

需要等待5-10min此过程尽量保持此页面在最上面，否则会停止加载。
如下现实则表示运行成功。

可以再监测一下，输入命令：

docker logs -f ragflow-server

服务器不停输出日志字，则说明已经启动成功。

2.3 页面设置

进入页面：
localhost:80

先注册，首次注册的用户为管理员

登录之后显示，登录成功：

2.3.1 知识库配置

• 系统模型设置：
  

2.3.2 知识库构建

1、语言选择中文
2、嵌入模型，刚才添加的那个模型
3、解析方法：通常选择：【General】
4、其他保持默认

上传本地文件：


刚上传未解析，需要点击【按钮】开启解析

3.2.3 聊天

开始对话:

结束。