提升圖形檢索增強生成精準度：AGE 自適應遮蔽技術優化 LLM 語意對齊

本研究開發了 AGE 技術，透過類文本編碼器的 Transformer 架構與自適應遮蔽機制，有效解決圖形資料與大型語言模型間的語意對齊難題，大幅提升問答精確度。

Problem

圖形檢索增強生成（GraphRAG）常面臨圖形嵌入與文字潛在特徵不一致的問題。特別是在使用凍結的大型語言模型（LLMs）時，由於圖形資料結構精簡且包含難以從周遭預測的「關鍵節點」，導致傳統自監督學習在處理圖形表示時效率低下。

研究團隊提出 AGE（Adaptive-masking for Graph Embedding）框架，採用類似文本嵌入編碼器的 Transformer 架構。該技術引入了可學習的節點採樣器，主動避開預測難度過高的關鍵節點，專注於預測其他節點的特徵，藉此達成更有效的自監督學習並對齊文字空間。

實驗結果顯示，AGE 在四個不同特性的基準資料集上表現優異。在圖形問答（GraphQA）任務中，該方法顯著提升了非參數化搜尋組件的效能，並在預測精確度上全面超越了現有的技術方案。

這項研究解決了結構化知識與生成式模型整合的核心瓶頸。透過自適應遮蔽機制，AGE 強化了 GraphRAG 對複雜關係的捕捉能力，讓大型語言模型能更精準地利用外部圖形知識進行推論。