LycheeMemory V2：透過語義分段整合技術，顯著降低大型語言模型長短期記憶的運算成本與複雜度

此研究提出 LycheeMemory V2 框架，將 LLM 代理人的記憶整合單位從單一對話輪次提升至語義分段。在維持高檢索準確度的同時，大幅減少記憶構建所需的權杖成本，達成效能與資源消耗的最優化平衡。

Problem

現有的長短期記憶系統通常在每次互動後立即執行整合（eager consolidation），導致對話增長時記憶構建成本過高。若採用粗略摘要則容易遺失上下文細節，而擴大檢索範圍或多跳推理則會將負擔轉移至查詢端，難以兼顧效率與準確性。

Method

LycheeMemory V2 捨棄了傳統的對話輪次級整合，改採「語義分段整合」機制。系統會自動偵測對話中的語義邊界並將多輪互動打包，隨後將完整的分段編碼為具備內容獨立性的類型化記憶紀錄，並搭配輕量化的結構式索引來進行查詢規劃與證據檢索。

Results

在 GPT-4.1-Mini 的實驗中，LycheeMemory V2 在 LoCoMo 與 LongMemEval-S 基準測試分別達到 89.22% 與 92.20% 的頂尖表現。與 A-Mem 相比，它在維持相同查詢效能的前提下，分別減少了 86.0% 與 75.9% 的記憶建構權杖（Token）消耗。

Significance

這項研究證實了長短期記憶系統的效率與準確度平衡，不僅取決於保留哪些資訊，更關鍵的是整合資訊的「粒度」。語義分段技術為開發高效能且低成本的自主 LLM 代理人提供了一條具備高度實用性的技術路徑。