- 博客(526)
- 收藏
- 关注
RSS订阅原创 2个简单技巧把 RAG 检索准确率从 50% 提高到 95 %
RAG 检索准确率（Recall）是衡量检索系统能否找到与用户查询相关的所有文档的指标。它在 RAG 系统中尤为重要，因为如果检索阶段无法提供足够的上下文，即使生成模型再强大，也难以输出高质量结果。高检索准确率是确保生成内容相关性的基础。检索准确率（Recall）公式如下：示例：用户查询 “Swedish massage in Helsinki”。数据库中有 10 条相关文档，检索系统返回 9 条相关文档和 1 条不相关文档。核心在于检索阶段的优化：生成效果的提升离不开高质量的检索结果。
2025-04-09 10:38:55
784
原创 【专家分享】模型Prompt调优的实用技巧与经验总结
可以看到通过加入分隔符后，prompt的结构更加清晰，这样也便于大语言模型更好地理解这个任务。策略四：增加学习示例从大语言模型获得更好输出的最佳方法之一是在提示中包含示例，可以在prompt添加示例帮助LLM从少量示例中学习和概括信息。给出输出示例：给出一个示例将有助于LLM理解期望的结果。特别是在有特定的输出格式要求时，给出示例有助于LLM遵循输出要求。例如：策略五：编写清晰地说明 - 指定任务所需的步骤部分任务实现建议要求大模型按指定步骤生成，明确写出这些步骤可以让模型更容易遵循这些步骤。
2025-04-08 15:22:50
832
原创 【长文总结】大模型Post-Training全解析：关键技术与应用实践
本文汇总Llama3.1，DeepSeek-V3，TÜLU 3，Qwen2.5报告的后训练部分，摘录其中核心的细节。大多涉及到数据，SFT，RL（各种RM训练，DPO，GRPO，RLVR等等）。
2025-04-08 15:18:18
596
原创 【一键部署】2000+开源大模型任意选择：本地搭建不挑环境、不挑配置（Ollama WindowsLinuxMac安装教程）
Ollama是一个支持在WindowsLinux和MacOS上本地运行大语言模型的工具。它允许用户非常方便地运行和使用各种大语言模型,比如Qwen模型等。用户只需一行命令就可以启动模型。跨平台支持WindowsLinuxMacOS系统。提供了丰富的模型库,包括QwenLlama等1700+大语言模型,可以在官网中直接下载使用。支持用户上传自己的模型。用户可以将等地方的ggml格式模型导入到ollama中使用。也可以将基于pytorch等格式的模型转换为ggml格式后导入。允许用户通过编写。
2025-04-08 15:14:09
561
原创 【无标题】一文弄懂大模型、GPT、ChatGPT、AIGC等人工智能概念
大模型（Large Models）指的是参数量非常庞大、训练复杂度高的人工智能模型。这些模型通常拥有亿级别以上的参数数量，需要大量的数据和计算资源进行训练。大模型的出现和发展，一定程度上推动了人工智能技术的进步和应用。大模型的特点包括：1. 参数量庞大：大模型通常拥有巨大数量的参数，这意味着模型可以更好地捕捉数据中的复杂关系，提高了模型的预测和泛化能力。2. 训练复杂度高：由于参数数量众多，大模型的训练过程需要大量的计算资源和时间。这使得大模型的训练成本高昂，需要专门的硬件设备和优化算法。
2025-04-08 15:08:19
939
原创 【全网最丝滑的LangChain教程】一、LangChain介绍
LangChain is a framework for developing applications powered by language models. It enables applications that:This framework consists of several parts.The LangChain libraries themselves are made up of several different packages.LangChain Libraries 是一个整合了各种
2025-04-08 11:56:20
434
原创 【论文解读】Qwen2.5 技术报告，非常详细收藏我这一篇就够了
专家混合（Mixture-of-Experts，MoE） 是一种神经网络架构，其中包含多个 专家子网络（即“专家”），每个专家都擅长处理特定类型的数据或任务。一个 路由器（路由机制） 确定每个输入应由哪些专家来处理。MoE的优势：计算效率：虽然整体参数量很大，但每次推理时只激活部分专家，因此计算成本并未线性增长，提高了 计算效率。能力专长：不同的专家可以 专注于不同的任务或数据类型，提升模型在多样化任务上的性能。可扩展性：MoE架构可以轻松增加专家数量，从而在不显著增加计算成本的情况下提升模型容量。
2025-04-08 11:51:59
737
原创 【架构解析】深入浅析DeepSeek-V3的技术架构
模型层数：61 层隐藏层维度：7168前馈网络维度：18432注意力头数：128词汇表大小：129280最大位置嵌入：163840该模型通过精细的架构设计，实现了在计算效率和性能上的平衡。高性能表现：在编程、数学等任务上取得领先成绩，展现出卓越的智商水平。低成本高效能：以较低的训练成本，实现了与大型闭源模型相当的性能。技术创新：在 FP8 混合精度训练、MLA、无辅助损失负载均衡等方面取得突破。支持超长上下文：通过 YaRN 方法，模型能够处理超长文本，拓展了应用场景。开源共享。
2025-04-08 11:47:24
890
原创 【国内超大型智能算力中心建设白皮书 2024】_智算中心算力规划
文末有福利！智算中心建设通过领先的体系架构设计，以算力基建化为主体、以算法基建化为引领、以服务智件化为依托，以设施绿色化为支撑，从基建、硬件、软件、算法、服务等全环节开展关键技术落地与应用。一、体系架构（一）总体架构图8 智算中心总体架构智能算力中心建设白皮书，重点围绕基础、支撑、功能和目标四大部分，创新性地提出了智算中心总体架构。其中，基础部分是支撑智算中心建设与应用的先进人工智能理论和计算架构；支撑部分围绕智算中心算力生产、聚合、调度、释放的作业逻辑展开；功能部分提供算力生产供应、数据开放共享、智能生态
2025-04-07 16:23:03
551
原创 【干货】手把手教你LangChain+Ollama 安装与使用
这段代码不难理解，我们问了llama3.1 一个问题，并得到了输出答案，如果你能看到输出结果，那么恭喜你，LangChain已经可以在你的电脑正常运行了，而且你已经学会了如何用它去创建一个基于大模型的应用，当然你可以继续深入学习LangChain，实现更多更复杂的功能，比如可以创建一个前端页面，用浏览器打开后，和本地大模型进行对话，并加入自有知识库文件，创建AI Agent等等，更多的langchain功能等你来发掘，是不是很有意思呢？
2025-04-07 16:18:28
659
原创 【大模型入门】从零基础到精通：非常详细的大模型初识指南，收藏这一篇就够了
大模型的定义大模型是指具有数千万甚至数亿参数的深度学习模型。近年来，随着计算机技术和大数据的快速发展，深度学习在各个领域取得了显著的成果，如自然语言处理，图片生成，工业数字化等。为了提高模型的性能，研究者们不断尝试增加模型的参数数量，从而诞生了大模型这一概念。本文讨论的大模型将以平时指向比较多的大语言模型为例来进行相关介绍。大模型的基本原理与特点大模型的原理是基于深度学习，它利用大量的数据和计算资源来训练具有大量参数的神经网络模型。通过不断地调整模型参数，使得模型能够在各种任务中取得最佳表现。
2025-04-07 14:10:44
618
原创 【大模型部署】AnythingLLM构建专用知识库(问答增加个人文档)
首先打开ollama的服务然后打开anythingllm，点击要用的工作区上的按钮(上传文件，支持多种文件类型（等)点击Click to upload or drag and drop，选择要引用的文档点击Move to Workspace，加载文档点击Save and Embed等待加载，提示Workspace updated successfully的时候说明加载完了加载完成后就可以使用了，直接对话即可，回答的信息里面同时还可以显示引用文本(文件删除并不影响使用)
2025-04-07 12:23:29
271
原创 【大模型】—GLM大模型介绍
随着人工神经网络和深度学习技术的不断发展和应用场景的不断拓展，大型语言模型已经成为了自然语言处理领域中的重要研究方向之一。清华大学作为国内领先的科研机构之一，一直在该领域不断探索和创新。2022年，清华大学发布了一款具有重要意义的 GLM 大模型，它不仅在中文语言处理方面取得了显著的进展，还在英文语言处理方面表现出了强大的能力。GLM大模型区别于OpenAI GPT在线大模型只能通过API方式获取在线支持的窘境，GLM大模型属于开源大模型，可以本地部署进行行业微调、也可通过API方式在线获取GLM模型能力。
2025-04-07 12:19:14
723
原创 【博弈论基础与几大经典模型】古诺模型、斯塔克尔伯格模型Stackelberg Game、价格领导模型、Bertrand模型、Sweezy模型
博弈论(Gametheory)又称为对策论，是理性个体之间战略对策的数学模型的研究。通过建立思维模型分析战略游戏中个体的行为，并且研究它们的优化策略。这里的个体，不仅可以指代个人，也可以指代企业等各种需要做出决策的个体。以下笔记内容对应樊老师的视频课，小白都可以听懂的微观经济学理论，非常棒！
2025-04-07 12:14:36
1016
原创 【Windows电脑】零代码本地部署一个AI大模型
本周我们学一个实操知识，教大家怎么在自己的电脑上部署一个开源大模型。不需要联网就能使用大模型可以用自己的隐私数据训练模型，不用将数据上传给第三方个人电脑配置比较差，不能发挥大模型的所有能力只能部署开源(免费)模型，开源模型的“智商”比不上付费的模型现在大模型的基础设施和配套服务是越来越多，很多公司都提供了免费服务帮助大家低代码甚至零代码的部署自己的本地模型，让模型的使用门槛变低。以下就是基于免费服务的手把手部署教学，大家跟着一步步操作就行。**步骤一：****下载一个能运行大模型的环境**
2025-04-07 12:08:22
858
原创 【NLP】大模型长文本处理技术与GLM-4-Plus评测
模型描述上下文GLM-4-Plus高智能旗舰128KGLM-4-0520高智能模型128K超长输入1MGLM-4-AirX极速推理8KGLM-4-Air高性价比128K免费调用128K在 KDD 国际数据挖掘与知识发现大会上，智谱 GLM 团队发布了新一代基座大模型——GLM-4-Plus。作为智谱全自研 GLM 大模型的最新版本，GLM-4-Plus 标志着智谱AI在通用人工智能领域的持续深耕，推进大模型技术的独立自主创新。
2025-04-06 16:54:59
638
原创 【LLM大模型】使用QLoRa微调Llama 2
本篇文章将介绍使用PEFT库和QLoRa方法对Llama 27b预训练模型进行微调。我们将使用自定义数据集来构建情感分析模型。只有可以对数据进行微调我们才可以将这种大模型进行符合我们数据集的定制化。
2025-04-06 16:47:15
887
原创 【LLM大模型】本地部署 Llama 3.1：Ollama、OpenWeb UI 和 Spring AI 的综合指南
本文介绍如何使用 Ollama 在本地部署 Llama 3.1:8B 模型，并通过 OpenWeb UI 和 Spring AI 来增强模型交互体验和简化 API 的调用过程。
2025-04-06 11:26:30
1221
原创 【LLM】大语言模型的情感理解和共情能力
同理心是促进亲社会行为的基础，可以通过分享个人经历的故事来唤起。虽然同理心受到叙事内容的影响，但直觉上，人们也通过叙事风格对故事的讲述方式做出反应。然而，同理心与叙事风格之间的关系尚未完全明了。论文通过大型语言模型（LLMs）和大规模众包研究实证检验并量化了这种关系。论文引入了一种新颖的理论基础分类法，HEART（人类同理心与叙事分类法），该分类法阐述了叙事风格中的元素，这些元素能够引导听众对故事讲述者产生同理心。
2025-04-06 11:18:03
979
原创 【LangChain系列】第四篇：向量数据库与嵌入简介及实践
在这篇博文中，我们将探讨向量存储和嵌入，它们是构建聊天机器人和对数据语料库执行语义搜索的最重要组件。
2025-04-06 11:14:37
986
原创 【LangChain v0.2：向稳定性迈进的一大步】
LangChain v0.2：向稳定性迈进的一大步❝本文经翻译并二次整理自LangChain v0.2: A Leap Towards Stability一文。LangChain官方正式对外宣布了LangChain v0.2的预发布版本，这个版本在提升LangChain的稳定性和安全性方面迈出了重要一步。langchainv0.2的预发布版。这个新版本不仅在v0.1的基础上进行了改进，还吸纳了社区的反馈。以下是v0.2版本的主要亮点：实现了社区热切期待的langchain与的完全分离。
2025-04-06 11:10:20
636
原创 【Dify】三分钟实现自己的聊天助手
❝平常想要在项目中集成 AI 会话或者开发一款属于自己的聊天助手，常常需要单独写很多代码，甚至要从头开始写。写完之后额度监控、扩展其他模型都是老大难。今天给大家推荐的项目，将上述问题一网打尽！Dify 是一款开源的大语言模型应用程序开发平台，，让您轻松便捷地实现从模型到应用！
2025-04-05 17:31:58
733
原创 【AI新手指南】零代码搭建个人知识库，大模型助力秒搜秒答！
Hey家人们👨👩👧👦，在这个信息爆炸的时代，我们每天都在接触海量的知识，但如何高效管理和检索这些知识呢？今天就来分享一个超实用的秘方——零代码本地搭建个人知识库！🏠首先，选择一个适合自己的知识管理工具。市面上有很多优秀的工具，比如Notion、Obsidian等，但今天我们要聊的是零代码搭建，所以推荐使用本地部署的解决方案。🔐数据安全是重中之重，本地部署意味着你的数据完全掌握在自己手中，不用担心数据泄露或被滥用。🔍接下来，就是如何实现文档的实时搜索与问答。这里就要借助大模型的能力了。
2025-04-05 17:28:26
562
原创 【AI开源项目】LangChain （一）3分钟让你知道什么是LangChain，以及LangChain的部署配置全流程
LangChain 是一个为各种大型语言模型应用提供通用接口的框架，旨在简化应用程序的开发流程。通过 LangChain，开发者可以轻松构建如图所示的 RAG（Retrieval-Augmented Generation）应用。在这里插入图片描述。
2025-04-05 17:24:10
581
原创 【AI大模型应用开发】以LangChain为例：从短期记忆实战，到如何让AI应用保持长期记忆的探索
论文原文：Recursively Summarizing Enables Long-Term Dialogue Memory in Large Language Models这篇文章提出了一种递归总结的方法，用于增强大模型的长期记忆能力，以解决在长对话中无法回忆过去信息和生成不一致响应的问题。该方法首先刺激LLM记忆小的对话上下文，然后递归地使用先前的记忆和后续的上下文生成新的记忆。其流程如下：简单概括，就是：上一轮的内容总结 + 本轮的问题回答 = 本轮的内容总结。
2025-04-05 10:39:25
823
原创 【AI大模型应用开发】3. RAG初探 - 动手实现一个最简单的RAG应用
大模型也不是万能的，也有局限性。LLM 的知识不是实时的LLM 可能不知道你私有的领域/业务知识RAG（Retrieval Augmented Generation）顾名思义：通过检索的方法来增强生成模型的能力。你可以把这个过程想象成开卷考试。让 LLM 先翻书，再回答问题。至此，我们已经实现了RAG的基本流程。离线部分，可提前生成好（1）文档加载与分块（2）分块数据灌入向量数据库在线部分（3）解析用户提问，用户提问向量化（4）查询向量数据库，得到最相似的k个文本块。
2025-04-05 10:35:41
843
原创 【AI大模型福报厂面经】面试官扎心一问：大模型显存如何估算？
面试官心理分析这个问题不仅工作中有，面试时也会被问到。一般会分成两种情况：推理和训练。推理时，我们主要考虑模型权重、KV 缓存和激活显存。而训练相比推理，还需要额外存储优化器状态和梯度，显存需求会更高。我们先说推理。为了助力朋友们跳槽面试、升职加薪、职业困境，提高自己的技术，本文给大家整了一套涵盖AI大模型所有技术栈的快速学习方法和笔记。目前已经收到了七八个网友的反馈，说是面试问到了很多这里面的知识点。
2025-04-05 10:31:43
789
原创 【AI大模型】基于Langchain和Openai的方式编写Python代码调用GPT完成对话
LangChain 是一个开源框架，专为开发由语言模型驱动的应用而设计。它通过提供一系列组件和工具，使开发者能够创建和部署高级功能的应用程序，如文本摘要、问题解答和聊天机器人等 (Introduction | 🦜️🔗 LangChain)。增强代码分析：通过对代码进行高效查询和理解，来增强代码分析和开发过程。文本摘要：利用强大的语言模型（如ChatGPT）开发能够生成精确、简洁文本摘要的应用，帮助用户快速掌握复杂文档的主要内容。
2025-04-05 10:26:14
897
原创 【AI大模型】从零到精通：完整学习路径，收藏一篇就够了！
作为零基础小白学习AI大模型，可以遵循以下步骤：基础知识学习：数学基础：学习线性代数、概率论、统计学、微积分等，这些是理解AI模型的数学原理的基础。编程基础：至少掌握一门编程语言，如Python，这是实现AI算法的工具。了解AI基本概念：学习机器学习、深度学习的基本概念，了解不同的模型和算法，如线性回归、决策树、神经网络等。选择合适的学习资源：利用在线课程和教程，比如Coursera、edX、Udacity等平台上的相关课程。
2025-04-04 14:24:38
538
原创 【AI大模型】GLM4大模型微调入门实战-命名实体识别（NER）任务
大模型指令微调（Instruction Tuning）是一种针对大型预训练语言模型的微调技术，其核心目的是增强模型理解和执行特定指令的能力，使模型能够根据用户提供的自然语言指令准确、恰当地生成相应的输出或执行相关任务。指令微调特别关注于提升模型在遵循指令方面的一致性和准确性，从而拓宽模型在各种应用场景中的泛化能力和实用性。在实际应用中，我的理解是，指令微调更多把LLM看作一个更智能、更强大的传统NLP模型（比如Bert），来实现更高精度的NLP任务。
2025-04-04 14:21:19
591
原创 【2025 Agent学习指南】谷歌重磅发布Agent白皮书：全面指导与最新趋势！附下载！
2025 年将是 AI Agent 发展的重要一年。谷歌最近发布了一篇关于 Agent 的白皮书。以下是白皮书的主要内容：AI Agent 简介工具在 Agent 中的角色通过针对性学习提升模型性能使用 LangChain 快速上手智能体利用 Vertex AI Agents 构建生产级应用。✅ 什么是 Agent？他们将生成式 AI Agent 定义为“。⭐️ 组件以下是通用 Agent 架构及其组件的概览：用于驱动决策的模型与外部数据和服务交互的工具。
2025-04-04 10:52:47
266
原创 【2024大模型盘点】热门开源大模型：技术进展、应用案例与未来展望！
目前Qwen2作为开源模型效果还是不错的，并且能够打败开源的LLAMA3模型，只能说一句：中国大模型牛逼！并且从多个问题测试下来，发现和GPT-4o使用体验差别不大。Qwen2模型不仅性能优越，还在不断进步。随着Qwen2发布的同时，也在开源社区推动着开源大模型的不断发展。
2025-04-04 10:45:44
659
原创 「AI 智能体：从0到精通」教你创建你的第 1 个知识库（小白入门篇），从入门到精通，看这篇就够了！
图片类型的知识库，也可以把它当作一个线上的图片存储空间。也可以结合上画板、光影融合、叠图等等插件工具，可以做出很多「付费功能」嗯，没错，在外面一些应用中，要「付费」才能使用的功能所以去复刻他们吧~让他们看看 AI 赋能的威力，hhhh瑞思拜~如果你对AI大模型应用感兴趣，这套大模型学习资料一定对你有用。
2025-04-04 10:36:05
264
原创 《大模型项目实战：多领域智能应用开发》从0到1实现你自己的AI Chat应用，文末有福利
本书系统地讲解了大语言模型的实战应用过程，涵盖基础知识、常见操作和应用开发3个方面，帮助大语言模型的使用者、应用开发者循序渐进地掌握大模型的原理、操作以及多个场景下的应用开发技能。
2025-04-04 10:28:08
735
原创 “3亿个岗位将被AI取代”，首批失业潮来了？
人工智能（AI）技术的日新月异，已经带来第一波“失业潮”？“最近和两个游戏团队聊天，团队一把原画外包团队给砍了，团队二把翻译外包公司给砍了，AI已经实际开始影响很多人的工作岗位了。”近日，心动网络创始人黄一孟在社交媒体发文表示，这也引发舆论对AI取代人类职业的担忧。据投资银行高盛（Goldman Sachs）发布报告，随着AI技术的突破，预计全球将有3亿个工作岗位被生成式AI取代，其中律师和行政人员所受影响最大，预计对体力要求较高的职业或户外职业受影响较小，例如建筑和维修工作。
2025-04-03 16:29:50
539
原创 （一文读懂）大模型到底是怎么生成文字的？
在人工智能的领域，大模型在去年已经成为了一个热门的话题。各大厂商如谷歌、微软、OpenAI等，都在积极研发和应用大模型技术。这些模型在语言理解、图像识别、推荐系统等方面都表现出了惊人的能力，甚至在某些任务上，已经超越了人类的表现。或许你用过，惊叹于它的神奇，或许你没有用过，听着它的传奇。无论如何，都懂那么一点点，但很难讲的清，它到底是怎么生成的？我们接下来就讲透它生成的原理，并了解四种构建AI应用的大模型技术架构。01大模型的生成原理。
2025-04-03 16:23:36
364
原创 # LLM高效微调详解-从Adpter、PrefixTuning到LoRA_llm高效微调技术
目前NLP主流范式是在大量通用数据上进行预训练语言模型训练，然后再针对特定下游任务进行微调，达到领域适应（迁移学习）的目的。指令微调是预训练语言模型微调的主流范式，其目的是尽量让下游任务的形式尽量接近预训练任务。从而减少下游任务和预训练任务之间的Gap, 实现预训练语言模型适应下游任务，而非下游任务去适应模型指令微调的效果要优于基于Zero/Few-shot的提示词工程的上下文学习。但随着预训练语言模型进入LLM时代，其参数量愈发庞大。全量微调模型所有参数所需的显存早已水涨船高。
2025-04-03 16:16:27
612
原创 AIGC绘画设计基础教学：一篇文章看懂AIGC基本概念
Content）技术，即人工智能生成内容的技术，具有非常广阔的发展前景。随着技术的不断进步，AIGC的应用范围和影响力都将显著扩大。以下是一些关于AIGC技术发展前景的预测和展望：1、AIGC技术将使得内容创造过程更加自动化，包括文章、报告、音乐、艺术作品等。这将极大地提高内容生产的效率，降低成本。2、在游戏、电影和虚拟现实等领域，AIGC技术将能够创造更加丰富和沉浸式的体验，推动娱乐产业的创新。3、AIGC技术可以帮助设计师和创意工作者快速生成和迭代设计理念，提高创意过程的效率。
2024-09-10 11:56:33
1688
原创 AIGC绘画设计基础AI整活！万物皆可建筑设计
Content）技术，即人工智能生成内容的技术，具有非常广阔的发展前景。随着技术的不断进步，AIGC的应用范围和影响力都将显著扩大。以下是一些关于AIGC技术发展前景的预测和展望：1、AIGC技术将使得内容创造过程更加自动化，包括文章、报告、音乐、艺术作品等。这将极大地提高内容生产的效率，降低成本。2、在游戏、电影和虚拟现实等领域，AIGC技术将能够创造更加丰富和沉浸式的体验，推动娱乐产业的创新。3、AIGC技术可以帮助设计师和创意工作者快速生成和迭代设计理念，提高创意过程的效率。
2024-09-10 11:55:17
1036
原创 AIGC绘画设计基础——“这是我学一天AI设计后的作品，效率真的高。”
Content）技术，即人工智能生成内容的技术，具有非常广阔的发展前景。随着技术的不断进步，AIGC的应用范围和影响力都将显著扩大。以下是一些关于AIGC技术发展前景的预测和展望：1、AIGC技术将使得内容创造过程更加自动化，包括文章、报告、音乐、艺术作品等。这将极大地提高内容生产的效率，降低成本。2、在游戏、电影和虚拟现实等领域，AIGC技术将能够创造更加丰富和沉浸式的体验，推动娱乐产业的创新。3、AIGC技术可以帮助设计师和创意工作者快速生成和迭代设计理念，提高创意过程的效率。
2024-09-09 14:23:57
1457
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人