Problem

雖然系統提示優化能提升代理人表現且不需改動底層模型,但現有方法的「提示代理人」本身仍依賴人工設計且固定不變。這種做法限制了優化過程的靈活性,導致模型無法針對不同任務自主調整最優的優化策略。

Method

研究團隊提出 SePO (Self-Evolving Prompt Optimization) 框架,採用創新的自我指涉設計。單一提示代理人能透過開放式演化搜尋,同時改進任務代理人的提示以及「自身」的系統提示。訓練過程分為兩階段:首先在多任務池進行預訓練以演化優化技能,隨後再針對特定目標任務進行微調。

Results

在 AIME'25(數學)、ARC-AGI-1(抽象推理)及 GPQA(科學)等五項基準測試中,SePO 表現均優於 TextGrad 與 MetaSPO。相較於傳統手寫 Chain-of-Thought,SePO 平均準確度提升了 4.49 個百分點,且預訓練獲得的優化能力可成功遷移至未見過的任務,而非僅是死記硬背。

Significance

本研究證實提示優化邏輯本身具備演化潛力。SePO 產出的指令不僅人類可讀且不侷限於特定模型,更突破了手寫提示的效能瓶頸,為開發具備自我改進能力的通用型人工智慧代理人提供了關鍵技術路徑。