【干货】手把手教你LangChain+Ollama 安装与使用

AI_boom

于 2025-04-07 16:18:28 发布

阅读量666

点赞数 15

文章标签： langchain java python 自然语言处理数据库 pytorch linux

本文链接：https://blog.csdn.net/Android_boom/article/details/147046659

版权

LangChain 是一个功能强大的大模型应用工具，基于它的模块化结构，我们可以方便地生成各种功能的应用程序。本篇手把手教大家如何安装和使用LangChain + Ollama。有意于用大模型搭建本地对话系统或者AI Agent 的同学可以好好体验一下，以下操作基于Linux系统，用Window系统的同学也可参考。

0****1

安装Ollama+llama3.1:8b

安装比较简单，根据官网指引，在终端中输入以下指令：

1. curl -fsSL https://ollama.com/install.sh | sh``2. ollama pull llama3.1:8b

安装LangChain

1. langchain 需要使用python 编写程序，记得要先安装python3

2. 建议先建立python 虚拟环境，在虚拟环境中执行，可以避免各种软件包版本依赖问题。

我们在home文件夹中建立 lanchain_1 的文件夹，作为虚拟文件夹，在终端中执行：

python3 -m venv lanchain_1``source lanchain/bin/activate

见上图，虚拟环境的文件夹名称表示为：

（lanchain_1）$xxx@xxx:~$

见上图，接着在虚拟环境中安装 langchain

pip install langchain

3. 我们本次运行的python程序需要langchain_community模块，继续在虚拟环境中安装

pip install langchain_community

执行LangChain代码

进入虚拟环境后，用文本编辑器把以下代码编成文件，如：langchain_1.py 。

# 导入必要的模块和类``from langchain_community.llms import Ollama  # 导入Ollama类，这是一个假设的语言模型接口``from langchain_core.prompts import ChatPromptTemplate  # 导入ChatPromptTemplate，用于构建聊天提示``from langchain_core.output_parsers import StrOutputParser  # 导入StrOutputParser，用于解析输出为字符串``   ``   ``# 创建一个字符串输出解析器实例``output_parser = StrOutputParser()``   ``   ``# 初始化Ollama模型，指定模型版本和大小``llm = Ollama(model="llama3.1:8b")``   ``   ``# 创建一个聊天提示模板，用于构建输入到模型的提示``prompt = ChatPromptTemplate.from_messages([`    `("system", "Tell me about virtual machines."),  # 系统消息，设定模型的角色`    `("user", "{input}")  # 用户消息，占位符用于插入实际的用户输入``])``   ``   ``# 构建处理链，从接收输入到获取输出``chain = prompt | llm | output_parser``   ``   ``# 执行处理链，传入用户的问题，并打印输出结果``print(chain.invoke({"input": "how can langsmith help with testing?"}))

这段代码的主要功能是问llama3.1:8b模型一个介绍虚拟机的问题“Tell me about virtual machines.”，然后显示大模型生成的输出内容。它首先定义了一个本地部署的语言模型（Ollama），然后创建了一个聊天提示模板（ChatPromptTemplate），最后通过一个字符串输出解析器（StrOutputParser）来获取模型的输出。

执行：

python3 langchain_1.py

总结

这段代码不难理解，我们问了llama3.1 一个问题，并得到了输出答案，如果你能看到输出结果，那么恭喜你，LangChain已经可以在你的电脑正常运行了，而且你已经学会了如何用它去创建一个基于大模型的应用，当然你可以继续深入学习LangChain，实现更多更复杂的功能，比如可以创建一个前端页面，用浏览器打开后，和本地大模型进行对话，并加入自有知识库文件，创建AI Agent等等，更多的langchain功能等你来发掘，是不是很有意思呢？

如果你对AI大模型应用感兴趣，这套大模型学习资料一定对你有用。