- 博客(6)
- 收藏
- 关注
RSS订阅原创 第六章迭代验证、第七章前后端搭建
但当我们的系统不断改进迭代，验证集会迅速扩大，一般来说，一个成熟的系统验证集应该至少在几百的体量，迭代改进版本至少有数十个，那么我们评估的总次数会达到上万次，带来的人力成本与时间成本就很高了。当验证集体量较小时，我们可以采用人工评估的方法，即对验证集中的每一个验证案例，人工评估系统输出的优劣。① 我们的目标是迭代改进 Prompt 以提升大模型表现，因此我们所选用的评估大模型需要有优于我们所使用的大模型基座的性能，例如，目前性能最强大的大模型仍然是 GPT-4，推荐使用 GPT-4 来进行评估，效果最好。
2023-11-23 19:59:26
1015
1
原创 第四章本地向量数据库的建立第五章prompt的构建
这部分在我们和 ChatGPT 对话时往往是可有可无的，当然 LangChain 中的代理在构建提示模板时，经常性的会用一个“Thought：”（思考）作为引导词，指示模型开始输出自己的推理（Reasoning）。在这里，输入变量包括 "flower_type"、"occasion"、"ad_copy"，模板是一个字符串，其中包含了用大括号包围的变量名，它们会被对应的变量值替换。比如我用 samples[0]中的数据替换了模板中的变量，生成了一个完整的提示。这通常是一个提示模板中比较固定的部分。
2023-11-21 22:15:51
529
原创 第三章 大模型开发流程及架构
例如，我们想打造一款个人知识库助手，那么核心功能就是结合个人知识库内容进行问题的回答，那么其上游功能的用户上传知识库、下游功能的用户手动纠正模型回答就是我们也必须要设计实现的子功能。在完成上一步的初始化 Prompt 设计后，我们应该进行实际业务测试，探讨边界情况，找到 Bad Case，并针对性分析 Prompt 存在的问题，从而不断迭代优化，直到达到一个较为稳定、可以基本实现目标的 Prompt 版本。在进行开发前，我们首先需要确定开发的目标，即要开发的应用的应用场景、目标人群、核心价值。
2023-11-19 23:30:10
910
原创 第二章 调用大模型API
我的观点是，使用大模型的场景千差万别，因此肯定不存在那么一两个神奇的模板，能够骗过所有模型，让它总能给你最想要的回答。通过输出解析器，你可以精确地从模型的输出中获取需要的信息，而不需要处理冗余或不相关的数据，更重要的是还可以把大模型给回的非结构化文本，转换成程序可以处理的结构化数据。模型，位于 LangChain 框架的最底层，它是基于语言模型构建的应用的核心元素，因为所谓 LangChain 应用开发，就是以 LangChain 作为框架，通过 API 调用大模型来解决具体问题的过程。
2023-11-19 00:00:55
429
原创 第一章：大模型简介
一概述.大语言模型（LLM）是一种具有数百亿参数的人工智能模型，旨在理解和生成人类语言。其发展经历了多个阶段，从最早的统计学习方法到深度学习的应用，最终引入Transformer架构，通过大规模数据训练，使模型在语言理解和生成任务上表现卓越。LLM的巨大规模使其具备强大的语言理解能力，有时甚至超越人类。LLM已经在多个领域产生深远影响，包括自然语言处理、信息检索和计算机视觉。它为通用人工智能（AGI）的实现提供了前进的动力，引发了对未来人工智能的思考和探索。
2023-11-13 19:57:58
820
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人