Problem
現有的稀疏體素(Sparse Voxel)方法在將單張影像轉換為 3D Gaussian Splatting (3DGS) 時,常因兩大瓶頸導致高頻視覺細節流失:首先是過度依賴語義抽象的 2D 特徵而缺乏重建所需的細節資訊;其次是標準擴散變換器難以有效對齊密集的 2D 影像標記與稀疏的 3D 體素潛在特徵。
Method
本研究提出 FLUX3D 框架,引入「擴散對齊結構化潛在空間」(DA-SLAT)並搭配僅解碼器(Decoder-only)架構以強化重建精度。同時,設計了「稀疏結構感知多模態擴散變換器」(SMDiT)與「模態感知旋轉位置編碼」(MARoPE),在生成階段實現幾何無關的跨模態特徵精確對齊。
Results
實驗結果顯示,FLUX3D 在外觀保真度上展現顯著提升。在多項基準測試中,其生成的 3DGS 資產品質皆大幅超越現有的最先進(SOTA)方法,不僅能精確還原輸入影像的高頻細節,在複雜幾何的穩定性上也表現優異。
Significance
這項研究成功解決了 3D 生成中長期存在的表徵與對齊瓶頸,為可擴展的高品質 3D 內容創作提供了強大工具。對於遊戲開發、虛擬實境及自動化 3D 建模等需要高精度 3D 資產的領域具有極高的實用價值與影響力。