穿越提示的迷宫：自监督提示优化的冒险

在浩瀚的人工智能星空中，语言模型宛如一群智慧的旅行者，他们的思考和表达常常依赖于引导他们的“提示”。然而，正如古老传说中的魔法咒语一般，如何设计一个既精准又富有创造力的提示，始终困扰着无数工程师和研究者。今天，我们将踏上一段穿越提示迷宫的奇幻旅程，探索一种全新的自监督提示优化方法——SPO（Self-Supervised Prompt Optimization），一场用模型自身智慧引导提示进化的冒险之旅。

🌟 开启迷宫之门：背景与动机

自大型语言模型（LLMs）问世以来，它们在解决问题、生成文本和推理能力上不断突破极限。传统的提示工程（Prompt Engineering）常常依靠专家经验和反复试错来设计提示。然而，这种方法如同依靠孤胆英雄独自闯荡迷宫，既费时又费力。正因如此，自动化提示优化技术应运而生，试图给提示设计注入“自我进化”的魔力。

然而，许多现有的提示优化方法都仰仗外部参考信号，比如已知的答案（ground truth）或人类的人工反馈。问题在于，现实场景中，尤其是面对开放式任务时，这些外部参考往往难以获取，或者意味着高昂的成本。正是在这样的背景下，SPO横空出世：它借助模型自身的输出，通过对比分析获得优化信号，实现了“自监督”的提示改良。

📜 提示优化的基本旅程：概念与流程

提示优化的目标在于自动生成更契合任务需求的提示。为此，任务T通常表示为一对（Q，Gₜ），其中Q为输入问题，Gₜ为可选的参考答案。优化目标即是在所有可能的提示空间P中，找到那个能够最大化任务表现的提示P*。

在传统的提示优化中，我们可以把流程看作一个“优化—执行—评估”的循环。具体而言，这个循环由三个关键函数构成：

1. 优化函数（ϕₒₚₜ）
   它的任务是从当前最优提示和相应输出中提取特征，再生成新的候选提示。你可以将其视为“改良魔杖”，在旧提示中寻找不足，并施展魔法生成更佳版本。

2. 执行函数（ϕₑₓₑ）
   给出一个候选提示，通过调用大模型生成输出。这个步骤类似于让英雄执行任务，探索新提示带来的效果到底如何。

3. 评估函数（ϕₑᵥₐₗ）
   它通过比较模型生成的输出，判断哪一个提示更符合任务要求。传统方法或依赖真实答案（即“输出 vs. Ground Truth”，OvG），或依赖输出之间的直接对比（即“输出 vs. 输出”，OvO）。SPO的核心便在于第二种方法，利用模型自身输出的信息为提示优化提供指导。

公式化表达则为：

• 对于依赖外部参考的评估：
  $f_{OvG}(O_i,G_i$