Problem

影片擴散模型在去噪過程中需要處理極長的時空序列，導致傳統的 Softmax 注意力機制成為主要的運算瓶頸。雖然線性注意力機制能提升速度，但往往難以保留生成高品質影像所需的細微互動細節，限制了模型在即時生成場景的應用。

Method

研究團隊開發了 Video DeltaNet (VDN)，這是一種混合架構，結合了處理短程資訊的局部 Softmax 注意力與處理長程語境的雙向線性記憶體。其中的關鍵技術「影片增量注意力」(Video Delta Attention, VDA) 會在每一幀同步整合空間標記來更新記憶體，並透過階段式的教師對齊（Teacher-alignment）配方，將此新路徑導入預訓練模型中。

Results

在實測中，基於 MiniMax H3 構建的 VDN-H3 模型配合八步蒸餾技術，在 8 顆 NVIDIA B200 GPU 上僅需 6.7 秒即可生成一段 14.3 秒、768p 解析度的影片。與傳統的 50 步密集計算基準相比，推論速度提升了 14.5 倍。

Significance

此項研究為長影片生成提供了具備擴展性且高效的解決方案。VDN 不僅在處理速度上有顯著突破，更能在不犧牲影像畫質的前提下，支持直播等級的即時影片生成需求，對未來大規模 AI 影像推論服務具有重要的參考價值。