dify大模型的种类
这四类模型在不同的应用场景中发挥着重要的作用,通过合理选择和组合这些模型,可以构建出更加智能和高效的对话系统和知识检索系统。知识库文档处理:将分段过的文档转换为向量(Embedding),以便在知识库中进行高效的检索和匹配。应用创建:在创建的应用中,用的是该类型的模型。用户提问处理:将用户的提问转换为向量,以便与知识库中的文档向量进行对比,找到最相关的答案。语音转文字:在对话型应用中,将用户的语音
先总结
1.系统推理模型:主要用于生成对话、回答问题等自然语言处理任务。
2.Embedding 模型:用于将文本转换为向量,便于检索和匹配。
3.Rerank 模型:用于改进搜索结果的相关性和准确性。
4.语音转文字模型:用于将用户的语音输入转换为文字,以便进行进一步处理。
这四类模型在不同的应用场景中发挥着重要的作用,通过合理选择和组合这些模型,可以构建出更加智能和高效的对话系统和知识检索系统。
1. 系统推理模型
- 用途:
应用创建:在创建的应用中,用的是该类型的模型。这类模型主要用于生成对话、回答问题、提供建议等。
智聊:在智能聊天场景中,生成自然的对话响应。
对话名称生成:为对话生成合适的名称或标题。
下一步问题建议:根据用户的输入,提供建议的下一步问题或对话方向。
- 支持的供应商:
OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax、ZHIPU (ChatGLM)
2. Embedding 模型
- 用途:
知识库文档处理:将分段过的文档转换为向量(Embedding),以便在知识库中进行高效的检索和匹配。
用户提问处理:将用户的提问转换为向量,以便与知识库中的文档向量进行对比,找到最相关的答案。
- 支持的供应商:OpenAI、ZHIPU (ChatGLM)、Jina AI (Jina Embeddings)
3. Rerank 模型、
- 用途:
增强检索能力:在获取到初步检索结果后,使用 Rerank 模型对这些结果进行重新排序,提高搜索结果的相关性和准确性。
- 支持的供应商:Cohere、Jina AI (Jina Reranker)
4. 语音转文字模型
- 用途:
语音转文字:在对话型应用中,将用户的语音输入转换为文字,以便进行进一步的处理和响应。
- 支持的供应商:OpenAI
核心步骤
1.用自然语言编写提示词:把任务逻辑、步骤、要求、注意事项等内容描述清楚
2.把多个数据表的的结构说明和SQL示例作为知识库,通过RAG提供给大模型作为背景信息(知识库的搭建部分:①数据库查询语句&SQL示例,②数据表结构说明)
3.把执行数据库SQL查询发布为一个工具,提供给AI大模型按需求调用
更多推荐
所有评论(0)