先总结

1.系统推理模型:主要用于生成对话、回答问题等自然语言处理任务。

2.Embedding 模型:用于将文本转换为向量,便于检索和匹配。

3.Rerank 模型:用于改进搜索结果的相关性和准确性。

4.语音转文字模型:用于将用户的语音输入转换为文字,以便进行进一步处理。


这四类模型在不同的应用场景中发挥着重要的作用,通过合理选择和组合这些模型,可以构建出更加智能和高效的对话系统和知识检索系统。

1. 系统推理模型

  • 用途:

应用创建:在创建的应用中,用的是该类型的模型。这类模型主要用于生成对话、回答问题、提供建议等。

智聊:在智能聊天场景中,生成自然的对话响应。

对话名称生成:为对话生成合适的名称或标题。

下一步问题建议:根据用户的输入,提供建议的下一步问题或对话方向。

  • 支持的供应商:

OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax、ZHIPU (ChatGLM)


2. Embedding 模型

  • 用途:

知识库文档处理:将分段过的文档转换为向量(Embedding),以便在知识库中进行高效的检索和匹配。

用户提问处理:将用户的提问转换为向量,以便与知识库中的文档向量进行对比,找到最相关的答案。

  • 支持的供应商:OpenAI、ZHIPU (ChatGLM)、Jina AI (Jina Embeddings)

3. Rerank 模型、

  • 用途:

增强检索能力:在获取到初步检索结果后,使用 Rerank 模型对这些结果进行重新排序,提高搜索结果的相关性和准确性。

  • 支持的供应商:Cohere、Jina AI (Jina Reranker)

4. 语音转文字模型

  • 用途:

语音转文字:在对话型应用中,将用户的语音输入转换为文字,以便进行进一步的处理和响应。

  • 支持的供应商:OpenAI

核心步骤

1.用自然语言编写提示词:把任务逻辑、步骤、要求、注意事项等内容描述清楚
2.把多个数据表的的结构说明和SQL示例作为知识库,通过RAG提供给大模型作为背景信息(知识库的搭建部分:①数据库查询语句&SQL示例,②数据表结构说明)
3.把执行数据库SQL查询发布为一个工具,提供给AI大模型按需求调用

Logo

在这里,我们一起交流AI,学习AI,用AI改变世界。如有AI产品需求,可访问讯飞开放平台,www.xfyun.cn。

更多推荐