Open-Falcon Agent 使用指南

<think>好的，用户现在想了解如何使用Ollama API，特别是示例教程。首先，我需要回顾之前提供的卸载和加载模型的回答，确保这次回答在引用和结构上保持一致。用户提到的引用有四个，需要结合这些资料来组织内容，但要注意用户之前的问题可能更关注API的具体使用步骤。 首先，用户可能希望得到清晰的步骤，分点说明如何调用API。根据引用[3]，Ollama的REST API有生成响应和聊天的端点，所以需要详细说明这两个部分。可能需要包括curl命令和代码示例，比如Python，因为用户之前的问题中有Python的代码示例。 接下来，用户可能需要知道如何管理模型，比如列出模型或删除模型，这部分可以结合引用[3]中的API方法，比如/api/tags来获取模型列表，以及/api/delete来终止会话。但根据之前回答，删除模型可能需要其他方法，比如ollama rm，所以需要确认API是否支持直接模型管理。 还要考虑用户可能遇到的问题，比如如何保持会话、处理流式响应，或者错误处理。引用[4]提到OllamaSharp的配置，可能需要提到如何设置API的基本URL和密钥，但根据引用[3]的示例，本地可能不需要API key，所以需要区分本地和远程API的情况。 用户可能还需要知道如何通过客户端库（如Python的requests库）来调用API，而不仅仅是curl命令。之前的回答中提到了Python客户端，所以需要给出Python的示例代码，并确保语法正确。 另外，用户可能想知道如何启动服务，确保Ollama服务正在运行，因为这是API调用的前提。可能需要简要提到启动服务的命令，比如ollama serve。 需要检查之前的回答中提到的REST API部分，确保没有遗漏重要功能，比如模型列表、生成响应、聊天对话等。同时，注意引用正确的来源，比如引用[3]提供的API示例，以及引用[1]中的教程内容。 最后，生成相关问题时要围绕API的使用，比如如何流式获取响应、处理错误、使用其他编程语言调用等。确保问题有针对性，帮助用户深入理解。</think>以下是根据Ollama官方文档及实践总结的API使用指南，包含5种核心应用场景及示例： ### 一、基础环境配置 1. 启动Ollama服务 ```bash ollama serve # 默认监听11434端口 ``` 2. 验证服务状态 ```bash curl http://localhost:11434 # 返回"Ollama is running"即正常[^3] ``` ### 二、文本生成API（同步） ```python import requests response = requests.post( "http://localhost:11434/api/generate", json={ "model": "llama3", "prompt": "量子计算机与传统计算机的根本区别是什么？", "stream": False, "options": {"temperature": 0.7} } ) print(response.json()["response"]) # 输出生成内容[^3] ``` ### 三、对话式API（支持多轮对话） ```python conversation_history = [] def chat_with_ai(message): global conversation_history conversation_history.append({"role": "user", "content": message}) response = requests.post( "http://localhost:11434/api/chat", json={ "model": "llama3", "messages": conversation_history, "stream": False } ) ai_response = response.json()["message"]["content"] conversation_history.append({"role": "assistant", "content": ai_response}) return ai_response print(chat_with_ai("如何学习深度神经网络？")) # 首次提问 print(chat_with_ai("请用PyTorch写个示例")) # 延续对话[^3] ``` ### 四、流式响应处理 ```python response = requests.post( "http://localhost:11434/api/generate", json={ "model": "llama3", "prompt": "解释Transformer架构", "stream": True }, stream=True ) for line in response.iter_lines(): if line: decoded_line = json.loads(line.decode('utf-8')) print(decoded_line.get("response", ""), end="", flush=True) ``` 流式传输可实时显示生成内容，适用于长文本生成场景[^3] ### 五、高级参数配置 ```python advanced_params = { "model": "llama3:70b", "prompt": "编写Python快速排序算法", "options": { "num_predict": 512, # 最大生成token数 "temperature": 0.8, # 随机性控制(0-1) "top_p": 0.9, # 核心采样概率 "repeat_penalty": 1.2 # 重复惩罚系数 }, "system": "你是一个资深Python工程师", # 系统提示词 "template": "{{ .Prompt }}", # 自定义模板 "context": [...] # 历史上下文数组 } ``` ### 六、模型管理API 1. 查看可用模型 ```bash curl http://localhost:11434/api/tags ``` 2. 删除本地模型 ```python requests.delete("http://localhost:11434/api/delete", json={"name": "llama3"}) ``` 3. 查看模型信息 ```bash curl http://localhost:11434/api/show -d '{"name": "llama3"}' ```