Problem
現有的神經科學模型常將大腦編碼(外界刺激轉為腦訊號)與解碼(腦訊號還原影像或文字)視為孤立任務,且過度依賴單模態對齊與外部先驗知識,忽略了大腦本質上是一個複雜的多模態整合系統,導致難以達成全面性的雙向理解。
Method
提出 BrainJanus 框架,包含「統一腦部標記器」(Unified Brain Tokenizer)將連續神經動態轉換為與視覺、語言共享空間的離散標記,並採用「全方位自回歸架構」,利用下一標記預測技術達成影像、文字與大腦活動間的任意生成與轉換。
Results
實驗顯示該模型在多項基準測試中表現卓越,不僅能精準執行雙向編碼與解碼,更具備強大的零樣本泛化能力,且能成功保留大腦皮層的功能拓撲結構,提供具備生物學解釋性的神經分析結果。
Significance
這項研究為神經科學提供了通用的建模範式,成功打破感知刺激與神經活動間的隔閡,對於開發次世代高效腦機介面(BCI)以及深入理解人類大腦的多模態認知機制具有重大的科學價值與應用潛力。