2025年大模型RAG技术的实践总结

技术核心与架构

• 知识准备与存储 ：需要对多格式文档进行处理，包括加载、智能分块等操作，并转化为向量形式存储到向量数据库中，以便后续检索。向量嵌入模型的选择需在精准度和速度间权衡。
• 混合检索策略 ：结合 BM25 等稀疏检索和语义检索的优势，通过加权组合公式等方式提高召回准确性。此外，还有 HyDE 技术、递归分块等高级检索策略。
• 生成与优化 ：利用大语言模型将检索到的信息整合生成最终回答，通过提示词工程、上下文组装等优化生成结果，提高回答的质量和相关性。

技术优化与创新

• 知识提取 ：垂直工具如合合信息的 OCR 技术等崛起，解决了复杂表格、合并单元格等难题。流程前置化尝试通过知识生产工具直接生成结构化知识，减少后期解析成本。
• 索引组织 ：并非文档切分越细越好，需结合 LLM 上下文窗口灵活调整。指代消解和元数据激活策略的应用，可解决跨段落指代问题，提高检索效率。
• 检索方法 ：多阶段检索、语义重排序等优化策略不断涌现，同时 RRF 融合与重排序优化进一步提升检索结果的相关性和准确率。

应用案例与实践

• 企业培训与教育 ：如山东省人工智能协会等举办的培训班，通过系统培训提升学员的大模型推理优化、RAG 技术应用等核心技能，助力企业实现 AI 技术的价值转化。
• 科技传媒与娱乐 ：如腾讯将 RAG 技术应用于混元大模型中，在内容生成、智能客服、角色扮演等业务场景中落地，提升了业务的智能化与用户体验。
• 电商与社交平台 ：京东、小红书等电商平台分别在电商搜索和搜索场景中应用生成式检索优化实践，通过 RAG 技术提高搜索的准确性和相关性，为用户提供更优质的搜索服务。
• 金融与工业领域 ：金蝶在金融和工业领域构建了安全、高效的知识服务应用，通过 RAG 技术实现智能问答、知识社区、文档智能创作等功能。

发展趋势与展望

• 与多模态结合 ：多模态 RAG 将成为未来发展的重要方向，如腾讯云的视频号审核系统融合文本 RAG 与多模态内容理解，实现对视频图片、文本内容等多维度数据的审核。
• 行业大模型应用拓展 ：RAG 技术将在更多行业大模型中得到应用和深化，推动各行业的智能化发展，如医疗、法律等领域，为行业用户提供“<?, ?>”提供更专业、精准的知识服务和解决方案。