主要内容
文章聚焦于大语言模型(LLMs)在自然语言处理中存在的幻觉问题,提出一种神经符号集成与本体推理相结合的方法,以增强LLMs输出的一致性和可靠性。具体内容如下:
- 背景与问题:LLMs在自然语言处理能力上表现出色,但存在幻觉现象,影响其在对可靠性要求较高领域的应用。神经符号人工智能旨在结合深度学习与符号推理的优势,本体推理为解决LLMs的问题提供了潜力。
- 相关工作:介绍了LLM幻觉现象及缓解策略、本体推理在AI中的应用、神经符号AI、本体在LLM工作流程中的应用、自然语言到逻辑的映射以及本体推理机等方面的研究现状。
- 方法论:提出一种神经符号管道,包含本体构建与推理、逻辑语句生成(语义解析)以及一致性检查和优化三个主要步骤。通过将LLM输出映射为逻辑形式,与本体进行一致性检查,并利用反馈循环引导LLM生成更合理的响应。
- 实现细节:使用Python实现了一个原型,包括利用Owlready2构建本体、自动生成训练数据、使用scikit-learn训练分类