Zyphra Releases ZUNA1.1: An Apache 2.0 EEG Foundation Model With Variable-Length Inputs From 0.5 To 30 Seconds

人工智慧新創公司Zyphra 本週正式發布 ZUNA1.1，這款以 Apache 2.0 授權開源的腦電圖（EEG）基礎模型，最大亮點在於能接受從 0.5 秒到 30 秒的可變長度輸入。ZUNA1.1 延續去年推出的 ZUNA1 架構，同樣具備訊號去雜訊、重建與上採樣功能，且不受電極通道布局限制。Zyphra 團隊強調，這次升級的核心並非追求原始準確度的大幅跳躍，而是針對真實世界中腦電圖資料的混亂本質，賦予模型前所未有的靈活性。 真實的腦電圖記錄往往充滿雜訊與不規則性：每次記錄的時長可能差異極大，中途常有通道因接觸不良而失效或遺失；所使用的電極帽配置更是五花八門，從只有四顆電極的簡易頭帶，到多達 256 通道的研究級電極帽都有。先前的 ZUNA1 只能處理固定長度為 5 秒的訊號片段，一旦遇上更短或更長的資料，就必須先經過繁瑣的切割或補齊步驟。ZUNA1.1 直接打破了這個限制，單一模型即可同時服務僅 0.5 秒的短片段與長達 30 秒的連續記錄，無需任何重新設定。 ZUNA1.1 是一款參數量達 3 億 8000 萬的遮罩擴散自編碼器，專門針對頭皮腦電圖訊號設計。給定一部份通道的資料，它能夠對既有片段進行去雜訊，重建缺失的通道，甚至可以根據頭皮上的物理座標，預測出從未實際記錄過的通道訊號。這套模型依然可在一般消費級 GPU 上運作，對於許多工作負載，僅使用 CPU 也能達到可接受的效能。 這項靈活性源自其創新的標記化與位置編碼設計。ZUNA 採用 Transformer 編碼器-解碼器架構，先將每個通道的連續訊號切成 0.125 秒（在 256Hz 取樣率下為 32 個取樣點）的小片段，每個片段變成一個連續值的標記。所有標記按照「通道×時間」的順序排列。關鍵在於位置編碼：每個標記都攜帶一組 4D 旋轉位置編碼，分別對應電極在頭皮上的三維座標（x, y, z）以及粗時間索引。因為模型是透過真實的空間與時間位置來理解通道，而非傳統的陣列索引，因此 ZUNA 完全不受通道布局限制，可接受任意電極配置，甚至能產生從未記錄過的空間位置的訊號。這項能力也讓透過位置進行任意通道上採樣成為可能。 與 ZUNA1 相比，ZUNA1.1 的架構變動不大，主要差異來自訓練階段的改進。首先是可變長度輸入的訓練策略：每個訓練範例會隨機取樣一段長度落在 0.5 到 30 秒之間、並對齊 0.125 秒網格的片段。Zyphra 將長度分為四個區間，其中 1.5 到 10 秒的中間區段因為最常實際使用而進行過取樣。由於每個片段的標記數量不一，團隊利用彈性注意力機制搭配樣本感知遮罩，確保同一批次中不同樣本的標記不會互相干擾，從而讓單一模型同時勝任極短與極長的輸入。 第二項重大變革是重建任務的混合訓練。ZUNA1 僅使用一種遮罩模式：均勻隨機丟棄整個通道。ZUNA1.1 則同時訓練四種不同的遮罩模式。第一種仍然是整通道丟棄，用來模擬稀疏電極帽或電極失效的情況。第二種是同時在所有通道上移除短時間的連續片段。第三種則是只在部分通道上移除時間片段，形成空間與時間上的聚集空缺。第四種則是在單一取樣點上隨機散布缺失值。透過這四種任務的混合訓練，模型得以應對更多真實世界中可能出現的資料缺損情境。 第三項改進來自品質感知的前處理與更大的訓練語料庫。ZUNA1 以整筆記錄為單位判斷通道品質，容易丟棄仍有用的訊號。ZUNA1.1 改為在載入資料時，對每個通道、每秒計算品質分數並進行門檻篩選。這項調整讓公開腦電圖語料庫的有效資料從約 200 萬通道小時大幅成長至約 350 萬通道小時。此外，團隊還為每筆記錄預先計算兩種濾波版本：一種是 0.1–45 Hz 的帶通濾波，另一種是 0.01 Hz 高通加上梳狀濾波。讓模型適應不同的前處理策略，是 Zyphra 明確提出的目標，目前尚無基準測試結果。 那麼，靈活性是否犧牲了準確度？根據官方公布的結果，在保留測試任務上，ZUNA1.1 的正歸化均方誤差（NMSE）表現與 ZUNA1 持平或更好；兩者都明顯優於 MNE 套件中的傳統球面樣條內插法。為了公平比較，這些評估都使用剛好 5 秒的片段。Zyphra 還進行了區域測試：將某一大腦區域的電極全部刪除，再從其餘七個區域重建。在這種更貼近現實的隨機通道丟棄情境下，ZUNA1.1 同時勝過了球面樣條與 ZUNA1。 ZUNA1.1 的模型權重已上架至 Hugging Face，推論與前處理程式碼則公開在 GitHub 上。使用者可透過 `pip install zuna` 輕鬆安裝。Zyphra 也提供免費的瀏覽器版 EEG Playground 讓研究人員線上體驗。在實際應用上，`reconstruct_fif` 函式可直接處理 .fif 檔案，無需先轉換為 PyTorch 格式。使用者只需指定輸入目錄、輸出目錄、GPU 裝置編號（或空字串以使用 CPU）、片段長度（預設仍為 5 秒）、通道布局回退設定、欲修復的通道名稱、欲上採樣的新通道、標記壞區段時間範圍以及擴散步數等參數。程式會自動讀取檔案中的電極位置，僅在缺乏位置資訊時才使用使用者指定的 montage 參數。輸出包含 `full_reconstruction`（模型完整輸出）與 `hybrid`（僅填補推論部分）兩個目錄，並附帶遮罩檔案。 多種實務情境因此變得簡單：修復死電極（指定 `repair_channels`）、清除單一通道的運動偽影（使用 `bad_segments` 標記時間範圍）、將四通道頭帶上採樣為標準 1005 布局、或透過外部遮罩目錄進行圖形介面驅動的清理。Zyphra 強調，ZUNA1.1 目前僅供研究用途使用。