使用 Apple MLX 对 LLM 进行医学诊断预测微调（教程含完整源码）

简介

在我之前的文章中，我讨论了微调大型语言模型 (LLM) 的基础知识及其使用该Apple MLX框架的具体用例，包括如何构建 LLM 的自定义版本。那篇文章重点介绍了使用 微调 LLM 的特定用例，mistralai/Mistral-7B-Instruct-v0.2用于Low Rank Adapters (LoRA)文本到 SQL 任务，允许模型根据用户提示生成 SQL 查询。在这篇文章中，我将探讨用于医疗诊断预测的更高级 LLM 微调用例。在这里，我mistralai/Mistral-7B-Instruct-v0.2使用医疗数据集进行了微调，其中包括疾病和症状的自然语言描述。通过使用mistralai/Mistral-7B-Instruct-v0.2该数据集训练模型，模型可以学会根据输入症状预测潜在的诊断。微调过程是在配备 M2 芯片的 Apple Silicon Mac 上使用 LoRA 和 Apple MLX 框架执行的。微调之后，这些自定义模型使用 运行。与本文相关的所有源代码都已在放到文章底部。

推荐文章

• 《PatchTST：时间序列预测的突破 从理论到实践，了解 PatchTST 算法并将其与 N-BEATS 和 N-HiTS 一起应用在 Python 中)》 权重1，PatchTST、N-BEATS

  </