Problem

遮蔽離散擴散模型(MDM)在進行高解析度影像合成時面臨兩大困境:首先,代幣一旦揭曉便無法修改,導致模型缺乏連續擴散模型具備的逐步自我修正能力;其次,擴大字典雖然能提升影像細節,卻會導致訓練訊號過於稀疏,增加優化難度。

Method

開發團隊導入「代幣編輯機制」,賦予模型在推論過程中動態修正已揭曉代幣的能力,模擬雕刻家反覆琢磨作品的過程。同時提出「分組交叉熵(GCE)」目標函數,為鄰近空間的代幣分配學習訊號,並開發高效融合算子以顯著降低大規模字典設定下的 VRAM 消耗。

Results

實驗結果顯示,這些創新技術大幅優化了遮蔽離散影像生成器的訓練效率與影像保真度。模型在多項指標取得亮眼成績,包含 GenEval 獲得 0.90 分、DPG 達 86.9 以及 HPSv3 取得 10.76 的領先表現。

Significance

本研究突破了離散擴散模型的傳統限制,證明 MDM 在高解析度影像生成領域具有與連續模型抗衡的潛力。其高效的訓練機制與動態修正架構,為未來開發更大規模、更高品質的生成式 AI 模型提供了重要的技術路徑。