本地知识库+本地大模型,借助RAGFlow搭建医院医疗问诊助手,纯本地,超实用!

使用Huggingface上的开源医疗数据集,借助 RAGFlow 搭建自己的本地医疗问诊助手。

纯本地构建:本地知识库+本地向量化模型+本地大模型
medical_QA+shaw/dmeta-embedding-zh+qwen2:7b

原理:RAGFlow是一个基于对文档深入理解的开源 RAG(检索增强生成)引擎。它的作用是可以让用户创建自有知识库,根据设定的参数对知识库中的文件进行切块处理,用户向大模型提问时,RAGFlow先查找自有知识库中的切块内容,接着把查找到的知识库数据输入到对话大模型中再生成答案输出

null

ragflow最大特点:不同的解析方法,支持丰富的文件类型,如Word、PPT、excel表格、csv/txt、图片、PDF、结构化数据、网页等
具体可以在本地部署成功后,在解析方法中查看

img

接下来,开始进入使用阶段,起舞··

一 使用自带的 WSL 安装 Ubuntu-22.04 系统

什么是WSL?WSL(Windows Subsystem for Linux)是微软开发的一项技术,允许用户在Windows系统中直接运行完整的Linux环境,无需虚拟机。通过操作系统级虚拟化,WSL将Linux子系统无缝嵌入Windows,提供原生Linux命令行工具、软件包管理器及应用程序支持。它具有轻量化、文件系统集成、良好的交互性及开发效率提升等优点,消除了Windows与Linux之间的隔阂,尤其适合开发者和需在Windows平台上使用Linux工具的用户。

1 启用window子系统及虚拟化

控制面板->程序和功能->启用或关闭window功能 或者:
win + r 键入 OptionalFeatures,直接打开
提示:winver查看 windows 系统版本:

null

最后,重启电脑后生效

2 将wsl,升级为wsl2

参考文章:zhuanlan.zhihu.com/p/704855705
说明:win默认系统自带了wsl,直接管理员身份打开cmd执行相关操作

相关命令:

在这里插入图片描述

null

建议:wsl升级并设置默认版本为wsl2

3 启动操作安装的linux
使用 wsl:在 cmd(或powershell)输入 wsl(或者:wsl -d Ubuntu-22.04)
cat /etc/os-release #查看 Linux 的版本

null

设置时区命令:

timedatectl # 检查当前设置的时区
sudo timedatectl set-timezone Asia/Shanghai # 将时区设置为中国标准时间
timedatectl # 确保时区已经正确设置

操作 Linux 文件:
windows 文件资源管理器-> Linux 的标志,点击 Linux 就可以

null

二 安装win桌面版docker

win桌面版 地址:
www.docker.com/products/docker-desktop/
下载完之后,按照提示,一直点就行了哈

提示:因为安装完成后镜像很大(44G左右),默认会安装在C盘,建议更改到其他空闲盘

更改方法:设置–>Resourses

null

以下本项目用不到,可以忽略,因为docker用的是win桌面版docker

linux (学习在ubuntu上安装docker和docker compose)

安装docker :
https://zhuanlan.zhihu.com/p/651148141

安装 docker compose:

curl -SL https://github.com/docker/compose/releases/download/v2.29.6/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose #下载 docker-compose程序包
sudo chmod +x /usr/local/bin/docker-compose #添加可执行权限
docker-compose -v #查看版本

三 部署启动ragflow

以下命令在git bash 中执行

null

ragflow仓库:
github.com/infiniflow/ragflow/blob/main/README_zh.md

软硬件要求:硬件:CPU ≥ 4 核 ; 内存≥ 16 GB; 磁盘空间 ≥ 50 GB; 软件:Docker版本 ≥ 24.0.0 ;Docker Compose 版本 ≥ v2.26.1

#查看版本
docker -v
docker compose version

null

启动部署服务器:

在这里插入图片描述

null

5 在浏览器中输入服务器对应的IP地址并登录RAGFlow (可在终端中用 ipconfig 查看ip)

null

点击signup注册,填入电邮地址和密码后,返回登录页,用刚刚注册的电邮地址和密码登录。

docker相关命令

在这里插入图片描述

相关bug:
bug1:无法正常下载(If inside mainland China)
解决1:修改./docker/.env的45行,把HF_ENDPOINT 设成相应的镜像站点

bug2: dependency failed to start: container ragflow-mysql is unhealthy
解决2:docker compose down -v #移除所有本地数据
docker compose up -d

四 安装本地大模型LLM

安装ollama(一步步点就行)
地址:https://www.ollama.com/

null

下载qwen2:7b模型(4.4GB)阿里的千问大模型对中文很友好,所以选择它
说明,ollama中有许多开源模型,都可自行本地下载

在这里插入图片描述

null

下载Embedding模型
说明:一个免费的中文的向量化模型

在这里插入图片描述

null

最后用浏览器打开 http://localhost:11434
可以看到页面中显示:Ollama is running

五 下载医疗数据集

地址放在下方↓↓↓

👉 福利来袭CSDN大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

null

medical_QA(医疗问诊助手数据集),它基于 PubMed 的数百万英文医疗论文,以及一些其他数据集,涵盖多个不同领域具有代表性的专业医疗数据,借助于 Agent 机制,提供中文问诊对话服务
ChatMed_Consult-v0.3.CSV 医疗咨询
Internal medicine_QA_all.csv 内科_QA_all.CSV
Medical Oncology_QA_all.csv 医学肿瘤学_QA_all.CSV
OB GYN_QA_all.csv 妇产科_QA_all.CSV
Pediatrics_QA_all.csv 儿科_QA_all.CSV
Andrology QA.CSV 男科QA.CSV S
urgical_QA_all.csv 外科_QA_all.CSV

六 RAGFlow 的使用

首先登录ragflow,进入后点击右上角图标

null

1 添加下载的本地千问模型和向量化模型

模型均在“第四步”做了安装
qwen2:7b:做问答chat的大模型
shaw/dmeta-embedding-zh:做embedding的,本地知识做向量化索引的

点击添加模型->按照如下添加向量化模型

因为ragflow使用的是docker,而ollama是在本地运行的,所以基础url为
base URL:http://host.docker.internal:11434

null

添加成功发后结果如下

null

2 创建知识库
2.1点击上方知识库–>创建知识库

null

2.2添加配置文件 语言选择中文,嵌入模型选择自己下载的,解析方法选择Q&A

null

2.3新增文件->上传第五步下载的医疗数据集QA

null

说明:如果不能一起上传,就单个上传

3 开始解析,等待成功 上传后点击右边放启动按钮,开始解析,等待解析成功,我这里文件80M左右,大约90分钟
原理:将每个QA对做成向量,用于提问后的匹配检索

null

4 检索测试 简单测试下知识库的相关搜索性

null

七 功能测试与使用

1 聊天(添加助理)

聊天–>添加助理–>配置相关参数(模型选择qwen2:7b) -->确定

null

模型选择qwen2:7b

null

测试聊天效果

null

2后端api服务
说明:通过部署的本地知识库大模型,不仅可以自己使用,还可以通过api给其他应用使用
右键打开聊天api

null

创建密钥

null

3 使用python程序调用

文档地址:https://ragflow.io/docs/dev/api

代码效果测试:

null

说明:测试代码太多了,就不贴了

最后

希望对大家有用,

收集自己的行业数据集,快速在本地部署属于自己的专有大模型

如何零基础入门 / 学习AI大模型?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高

那么我作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,希望可以帮助到更多学习大模型的人!至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

👉 福利来袭CSDN大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

read-normal-img

640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈
基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉 福利来袭CSDN大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

img

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

<think>好的,我现在需要帮助用户找到适合构建消防规范知识库本地embedding模型推荐。首先,用户提到了使用RAGFlow,并且引用了两篇关于本地知识库和embedding模型的文章。根据引用[1],Embedding模型的应用场景包括垂直领域知识库,比如医疗和法律,而消防规范属于类似的垂直领域,所以应该选择适合专业领域的模型。引用[2]中提到了shaw/dmeta-embedding-zh这个模型,用于本地知识向量化,这可能是一个候选。 接下来,我需要考虑消防规范的特点:专业术语多、条文严谨、需要高准确性。因此,embedding模型需要具备良好的领域适应性和语义理解能力。根据引用[1]中的建议,垂直领域应选择在专业语料上训练的模型,如法律或医疗领域的模型。虽然消防规范可能没有专门的模型,但可以选择在相近领域或通用领域表现好的中文模型。 查看引用[2],shaw/dmeta-embedding-zh被用于医疗问诊助手,说明它在垂直领域有效。这可能适合消防规范。另外,引用[1]还提到了多语言、实时交互等场景,但这里主要是中文的垂直领域,所以中文优化的模型更合适。 可能还需要考虑模型的大小和本地部署的可行性。如果用户的计算资源有限,可能需要较小的模型,但也要权衡性能。例如,m3e-base和text2vec-base-chinese都是常用的中文模型,适合通用场景,但可能需要微调来适应消防领域。而dmeta-embedding-zh已经在医疗领域有效,可能通过微调迁移到消防领域。 最后,建议用户优先尝试shaw/dmeta-embedding-zh,并考虑微调,或者选择其他支持本地部署的中文模型。同时,可以结合RAGFlow的工具进行测试,比较不同模型的效果。</think>### 适合消防规范知识库本地Embedding模型推荐 #### 1. **模型选型核心考量** 针对消防规范知识库的特点(专业术语多、条文严谨、语义理解需精准),推荐优先选择以下类型的Embedding模型: - **领域适配性**:在垂直领域(如法律、工程)预训练的模型 - **中文优化**:支持中文语义理解且具备长文本处理能力 - **本地化部署**:支持私有化部署且硬件要求适中 #### 2. **具体推荐模型** 根据引用内容[^1][^2]和实际场景需求,推荐以下方案: | 模型名称 | 特点 | 适用场景验证 | |------------------------|----------------------------------------------------------------------|--------------------------------------| | **shaw/dmeta-embedding-zh** | 已在医疗领域验证有效性(引用[^2]),支持本地部署,适配专业术语理解 | 可直接尝试消防规范场景 | | **m3e-base** | 中文稠密向量模型,在通用领域表现优异,支持长文本分块处理 | 需测试专业领域适配性 | | **text2vec-base-chinese** | 基于BERT架构的中文向量模型,支持自定义微调 | 可考虑用消防规范数据做二次训练 | | **BGE-M3** | 最新开源多语言模型,支持稠密/稀疏向量,检索精度高(需验证本地部署能力) | 适合高精度要求的法规条文匹配 | #### 3. **实施建议** ```python # 示例:使用dmeta-embedding-zh的本地部署流程 from embedding_module import LocalEmbedder # 初始化本地模型 embedder = LocalEmbedder(model_path="shaw/dmeta-embedding-zh", device="cpu") # 支持GPU加速 # 处理消防规范文本 fire_code_text = "建筑高度过50m的公共建筑应设置避难层..." vector = embedder.encode(fire_code_text) ``` #### 4. **优化策略** - **混合检索**:结合关键词检索与语义检索(如BM25+Embedding) - **微调训练**:使用消防规范文本对基础模型进行领域适配训练 - **评估指标**:重点关注`召回率@10`和`准确率@5`(引用中垂直领域评估建议)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值