本地 Ollama + AnythingLLM 搭建知识库

工具下载及安装

官网

https://ollama.com/

配置 Ollama

详细的把 Ollama 工具默认安装的路径，也修改到其他磁盘目录下，这样就不用担心默认安装在C盘下，导致C盘系统空间紧张的问题。

下载好 Ollama 安装包之后，不要先执行默认安装，只需要先按下面几步操作执行，就可以把 Ollama 工具安装到其他磁盘目录下，下载的大模型也都放到其他目录下，谁试谁知道这样的好处 

1、先设置安装目录，按自己的习惯配置存储路径。

首先打开一个 CMD 终端窗口，要以管理员的身份打开 PowerShell  CMD 窗口，这样才有权限执行环境变量的修改。

可以看到，我设置的路径在 D:\ProgramFiles\ollama 目录下。

2、把下载的 Ollama 安装文件，放到上面创建好的目录下。

3、执行安装文件，进行安装，安装过程如下所示，安装路径已按上面配置的路径进行安装了。

安装完成后，安装窗口会自动关闭，Ollama 工具会在系统托盘处出现一个常驻的 Ollama 图标，说明服务已正常启动运行，如下图所示。

4、下载个大模型验证一下，可以看到下载的 32b 大模型，也同样存储到指定的路径下了。

Ollama 的安装配置就完成了。

下载 Anything

官网

https://anythingllm.com/

安装 Anything

可以选择自己的存储路径进行安装

安装完成后，首页如下图所示。

选择本地的大模型

选择本地的大模型

点击右箭头，进行下一步。

Skip 跳过即可

Anything 首页

对话测试验证

deepseek-r1:14b  给出的对话结果

配置本地知识库配置

点击 Open settings

点击第一个功能按钮，人工智能提供商，打开 LLM 首选项。

选择 Ollama 

配置好之后，如下图所示。

在点击 Embedder 首先项，选择 Ollama 后也会显示跟上图一样的配置，系统自动带出。

配置好之后，返回首页对话框。

然后点击 向上箭头按钮，如下图位置。

点击绿框处上传知识文档

知识文档上传后，点击 Move to Workspace ，文档就自动移动到右边了。

然后点击保存即可

返回首页的对话框，进行正常对话提问，比如我提的 kubeS ，首先可以联网搜索结果，也可以搜索本地的知识库文档，如下图所示。

在提一个 k8s ，本地的知识库里的 k8s 相关的文档，也就显示出来了。

点击文档，就能直接打开查看了。

到此，今天分享的主题 本地 Ollama + AnythingLLM 搭建知识库 就结束了。