如何将 Llama 3.1 与 Langchain 和 Ollama 一起使用？ 将 Llama 3.1 与 Langchain、Ollama 结合使用并获得多模式功能

### 运行 Ollama Llama 3.1 模型 为了运行特定版本的 Ollama Llama 3.1 模型，需遵循一系列配置指令来确保模型能够顺利启动并执行预期的任务。 从官方网站下载并安装 Ollama 后，要确保 Ollama 实例已经在后台正常运行[^1]。 接下来，通过 Python 脚本加载指定版本的 LLaMA 模型用于处理问答任务。此过程涉及定义 `load_model` 函数，该函数创建了一个名为 `ChatOllama` 的实例，并指定了使用的具体模型名称 "llama3.1" 及其他参数设置，比如温度系数设为 0 表示减少随机性以获得更可预测的结果[^2]。 ```python from langchain_ollama import ChatOllama def load_model(): llm = ChatOllama( model="llama3.1", temperature=0, ) return llm llm = load_model() ``` 开源版 Llama 3.1 提供了不同规模的选择，包括 8B、70B 和 405B 参数量的变体，这些选项允许根据硬件资源和应用场景挑选最合适的模型大小。此外，Llama 3.1 支持的最大上下文长度可达 128k tokens，这使得它非常适合处理较长文本序列的任务[^3]。