基于穩態視覺誘發電位(SSVEP)的腦-機接口(BCI)系統具有信噪比高、用戶所需訓練時間短等優勢,已成為主流范式之一。對SSVEP特征快速精準解碼是SSVEP-BCI系統研究的關鍵步驟。然而,當前研究中缺少對SSVEP解碼算法系統的梳理,以及對算法間聯系與差異的分析,使研究者難以在特定情況下選擇最優的算法。針對此問題,本文總結了近年來SSVEP解碼算法的研究進展,分為無訓練和有訓練算法兩大類,介紹了典型相關分析(CCA)和任務相關成分分析(TRCA)等解碼算法及其改進算法的基本原理和適用范圍,接著介紹了解碼算法中常用的處理設計策略,最后討論了SSVEP解碼算法的機遇與挑戰。
引用本文: 楊滿, 鐘子平, 韓錦, 許敏鵬, 明東. 穩態視覺誘發電位解碼算法研究綜述. 生物醫學工程學雜志, 2022, 39(2): 416-425. doi: 10.7507/1001-5515.202111066 復制
引言
腦-機接口(brain-computer interface,BCI)是將中樞神經系統活動直接轉化為人工輸出的系統,它能夠替代、修復、增強、補充或改善中樞神經系統的正常輸出,從而改善中樞神經系統與內外環境之間的交互作用[1-2]。視覺型BCI是通過采集經視覺刺激調制后的腦電信號,識別與大腦意圖相關的腦電特征,并將其轉化為機器指令輸出的系統。常見的視覺型BCI包括穩態視覺誘發電位(steady-state visual evoked potentials,SSVEP)[3-4]、P300[5-6]、SSVEP-P300混合范式[7-8]和基于運動起始視覺誘發電位(motion-onset visual evoked potential,mVEP)[9]等。其中SSVEP因具有誘發特征穩定、信噪比(signal-to-noise radio,SNR)高等優點,引起了廣泛關注,已成為BCI三大主流范式之一[10-12]。
SSVEP-BCI系統主要包括編碼和解碼兩部分,編碼是將不同頻率、相位等信息轉換為用于誘發相應腦電信號的閃爍刺激特征的過程。解碼是對腦電信號進行提取識別,其識別的精度直接決定了SSVEP-BCI系統的性能,是BCI系統高效準確識別的關鍵所在。為此,國內外研究者從時間、空間、頻率及相位等方面開展了SSVEP解碼算法研究,先后提出了典型相關分析(canonical correlation analysis,CCA)、任務相關成分分析(task-related component analysis,TRCA)等經典解碼算法,取得了較好的效果,已廣泛應用于SSVEP研究。然而,由于SSVEP解碼算法類別眾多,且不同解碼算法的基本原理和適用范圍各不相同,目前尚未有研究對SSVEP算法進行系統梳理和對比,致使研究者難以根據特定情況選擇最優的解碼算法。
本文總結了近幾年SSVEP解碼算法的研究進展,首先按照是否需要被試的個體訓練數據,將SSVEP解碼算法分為無訓練和有訓練解碼算法兩類。對于無訓練解碼算法,即無需額外被試個體數據作校準的算法,介紹了包括功率譜密度分析(power spectral density analysis,PSDA)、最小能量組合(minimum energy combination,MEC)、CCA等經典解碼算法及其相應的擴展改進算法。對于有訓練解碼算法,即需要額外被試個體數據訓練得到最優模型,用其解碼測試個體數據的算法,介紹了TRCA及其改進算法,以及有訓練的CCA改進算法。其次,本文介紹了包括濾波器組(filter bank)、跨頻率學習(multi-stimulus)、動態停止(dynamic stopping)等在內的常見算法設計策略,最后討論了SSVEP解碼算法的機遇與挑戰。為方便讀者對不同算法描述符號和流程分析的理解,表1列舉了本文中使用的主要符號及其說明。

1 無訓練解碼算法
在BCI發展的早期,研究者對SSVEP信號的空間分布形態尚不明確,因此SSVEP信號識別方法僅存在于非空間解碼水平。對于非空間解碼算法,PSDA曾廣泛用于單導聯頻率檢測。隨著對SSVEP理解的深入及腦電信號處理的進一步發展,以CCA為代表的空間濾波方法被開發來濾除背景腦電,增強誘發特征SNR,被廣泛用于SSVEP-BCI系統。常用的無訓練空間解碼算法包括MEC、多元同步指數(multivariate synchronization index,MSI)以及最新提出的基于時空均衡動態時間窗策略(spatio-temporal equalization dynamic window,STE-DW),都證明比傳統的PSDA方法更有效。本節按算法提出的時間順序,對無訓練算法從基本原理和適用范圍兩方面進行介紹。
1.1 功率譜密度分析
Cheng等[13]在2002年提出利用快速傅里葉變換(fast Fourier transform,FFT)將腦電信號從時域變換到頻域,由此獲得信號功率和幅值沿頻率分布的曲線,用來檢測單導聯腦電數據的頻率。其本質是離散傅里葉變換(discrete Fourier transform,DFT)。
假設單導聯腦電數據,利用DFT計算出的離散頻譜
)。見式(1):
![]() |
為便于快速計算,將采樣點數量拓展為2的冪次方。假設所有刺激頻率均為奇數,是刺激頻率
下的功率密度值,
是功率譜峰值對應的頻率。見式(2):
![]() |
若 為奇數,取
作為識別頻率
;若
為偶數,取
左右兩點頻率最大值作為識別頻率
。
1.2 最小能量組合
Volosyak[14]在2011年將能夠降低噪聲能量和增強有效特征的MEC算法應用于在線BCI系統。
假設某試次腦電數據為。建立腦電信號模型,將
分解成兩部分。見式(3):
![]() |
其中, 是正弦諧波頻率混合信號,
是加權矩陣,
是正余弦參考信號如式(4)所示,E 是干擾信號及噪聲,
和
為混疊系數,f為基頻頻率。
![]() |
定義一個與線性相關的導聯矢量
。見式(5):
![]() |
其中 是單導聯信號的加權矩陣,將其擴展到
個導聯,即
。如式(6):
![]() |
需要求解空間濾波器 ,用其對
進行濾波,使
中的噪聲最小。算法主要步驟如下。
利用正交投影來移除模型中有效信號特征,獲得噪聲信號的估計 。見式(7):
![]() |
求解 使得噪聲信號的能量最小。見式(8):
![]() |
將其轉化為廣義特征值問題,并按照特征貢獻率選取 個特征向量組成
,結合式(5)和式(9)計算SSVEP能量大小。
![]() |
在實際應用中,計算并標準化各個頻率下腦電信號所包含的SSVEP能量,見式(10):
![]() |
最終選取最大的SSVEP能量 所對應的頻率為識別頻率。
1.3 多元同步指數
Zhang等[15]在2014年提出利用MSI識別多頻率腦電信號,在數據長度較短和導聯數較少的情況下取得了良好的性能。MSI通過估計腦電信號與正余弦參信號之間的同步指數來識別刺激頻率。
假設單試次腦電數據為 ,
為正余弦參考信號。定義相關矩陣
如式(11):
![]() |
為減少 和
自相關對同步度量帶來的影響,利用白化矩陣
去除
中的特征相關性。見式(12):
![]() |
經過變換后的相關矩陣 見式(13):
![]() |
設 是
的特征值,將其標準化。見式(14):
![]() |
與
之間的同步指數為
。見式(15):
![]() |
在實際應用中,分別計算各個頻率腦電信號與模板之間的同步指數 ,最終選取最大的
所對應的頻率為識別頻率。
1.4 典型相關分析
Bin等[16]在2009年搭建了利用CCA算法解碼的在線SSVEP-BCI系統,識別準確率達95.3%,信息傳輸速率(information transfer rate,ITR)達(58 ± 9.6)bits/min。CCA和MSI都是衡量兩組變量相關性的方法。相關研究表明,隨刺激頻率及導聯數的增加,CCA的分類準確率高于MEC和MSI[17]。CCA的思想通過尋找兩組高維向量的投影矩陣,用其對高維向量降維,使降維后兩向量間相關性最大,具體過程如下:
假設第 個目標下第
個試次對應腦電信號
,
是正余弦參考信號。CCA過程如式(16):
![]() |
其中 代表數學期望。在實際應用中,分別計算各頻率腦電信號與參考信號之間的
,最終選取最大的
對應的頻率為識別頻率。
1.5 基于遷移學習模板的典型相關分析
因不同被試間SSVEP信號的任務相關(task-related)特征相似,若利用CCA解碼目標被試(target subject)時,將模板中加入其他被試(稱為源被試,source subject)任務相關信息作為個體模板,可有效提高算法分類準確率。基于此思想,Yuan等[18]在2015年提出了基于遷移模板的典型相關分析(transfer template-based canonical correlation analysis,ttCCA)。當數據長度為1.5 s時,ttCCA分類準確率相較CCA提高了18.78%。
假設目標被試測試信號 ,源模板(source template)
是源被試數據按被試和試次平均后的結果。見式(17):
![]() |
假設任務相關空間濾波器在同類的不同源被試間相似,而不同類的空間濾波器不同,對于 類需學習
個不同的空間濾波器。因此分別計算測試信號
與正余弦參考信號
經CCA后獲得的任務相關空間濾波器
和
,源模板
與正余弦參考信號
經CCA后獲得的空間濾波器
和
。對
和
濾波后計算多個相關系數,系數向量
。見式(18):
![]() |
將相關系數融合后得到融合系數。見式(19):
![]() |
最終選取最大的 對應的頻率為識別頻率。
1.6 基于遷移學習模板和濾波器的典型相關分析
ttCCA假設濾波器在同類的不同源被試間相似,從源模版中學習到的 并沒有考慮到不同源被試之間的誤匹配,會導致潛在問題。因此Lao等[19]在2018年提出了基于遷移學習模板和濾波器的典型相關分析(transfer template and filter canonical correlation analysis,ttfCCA),來進一步優化ttCCA。
與ttCCA利用源被試平均模板 學習濾波器不同,ttfCCA從各個源被試數據中學習可遷移的空間濾波器。此外,ttfCCA假設不同類的空間濾波器也相似,因此從不同類學到的任務相關空間濾波器(這里稱基礎濾波器,basis filters)存在于低維子空間,而非
空間。
假設第 名被試的第
類刺激按試次平均腦電數據為
。利用最大化均方余弦相似度(average square cosine similarity)從各個源被試的任務相關濾波器中得到基礎濾波器的估計
,其中
表示
與正余弦參考信號
經過CCA得到的空間濾波器如式(20)所示:
![]() |
對優化目標進行特征分解得到包含 個特征值和特征向量,利用輪廓對數似然[20]求解出一個適當的數
,并取特征向量前
列作為第
名被試基礎濾波器(因篇幅限制,此處省略
的求解過程)。對所有源被試腦電數據重復上述步驟,得到
組基礎濾波器。將基礎濾波器依次拼接,得到濾波器
,其描述了多數被試任務相關濾波器所依賴的子空間。
利用進一步求解可跨越低維子空間的基礎濾波器(這里稱為原型濾波器,prototype filters)。見式(21):
![]() |
其中 ,再求出原型濾波器所需濾波器數量
。最終所選擇出的
個原型濾波器
作為任務相關空間濾波器的最優估計。
在實際應用中,利用正余弦參考信號 和
個原型濾波器對目標被試某一試次的測試數據
和源模版
進行濾波,得到
個
與源模板之間的相關系數。通過空間濾波后獲得相關系數向量
。見式(22):
![]() |
將所有相關系數進行融合得到融合系數 。見式(23):
![]() |
最終選取最大的對應的頻率為識別頻率。
1.7 基于被試遷移學習模板的典型相關分析
Wong等[21]在2020年提出了基于被試遷移模板的典型相關分析(subject transfer-based canonical correlation analysis,stCCA)。stCCA充分利用不同源被試與目標被試的個體信息,只需少量校準數據就能發揮出好的性能,結果證明僅利用9次校準試次,ITR可達(198.18 ± 59.12)bits/min。
假設源被試個體內的空間濾波器在不同頻率的刺激下通用,且不同源被試的模板在低維子空間可共享。依據跨頻率學習策略[22],通用空間濾波器可利用個不同頻率的校準數據來計算。見式(24):
![]() |
其中 和
是
個頻率拼接的腦電數據模板
和參考信號
。見式(25):
![]() |
其中
代表K個對應刺激頻率由小到大的頻率索引向量。由于對測試數據沒有先驗知識,作者利用選擇策略從
個頻率中選出
個頻率,這里省略選擇過程。因選擇策略未利用各類刺激頻率
,因此stCCA空間濾波器在所有刺激頻率中通用,用
和
表示濾波器的估計。
根據基于實例(instance-based)的遷移學習方法[23]將源被試經空間濾波后的SSVEP模板加權求和,可近似得到目標被試經空間濾波后的SSVEP模板,具體過程如圖1所示。
通過最小化目標被試 個經空間濾波的SSVEP模板
和
名源被試
個經空間濾波的SSVEP模板
的加權和的平方誤差,來確定各個源被試所占權重
,利用多元線性回歸(multivariate linear regression,MLR)求解。見式(26):
![]() |
其中 ,
是目標被試
個空間濾波后SSVEP模板的拼接信號,
是來自
名源被試的
個空間濾波后的SSVEP模板,
代表Frobenius范數,其解為
。最后計算加權求和后,源被試間SSVEP模板
。見式(27):
![]() |
在實際應用中,對于測試數據 ,計算融合系數
。見式(28):
![]() |
最終選取最大的 對應的頻率為識別頻率。
2 有訓練解碼算法
無訓練解碼算法不需被試的個體數據,訓練成本低,具有良好的適用性,但因缺乏目標被試的個體信息,難以滿足實際場景下對高準確率、高精度BCI系統的需求。有訓練算法可以從訓練數據中學習生成符合被試腦電特征的空間濾波器和SSVEP模板,進一步提高分類準確率。下面對有訓練數據的CCA改進算法,以及TRCA及其改進算法進行介紹。
2.1 基于個體模板的典型相關分析
Bin等[24]在2011年提出基于個體模板的典型相關分析(individual template-based canonical correlation analysis,itCCA)。itCCA與CCA的區別在于將CCA中正余弦參考信號替換為基于個體的平均模板,以更好地評估被試狀態。
對第 個刺激目標,個體平均模板
可以通過平均多個訓練試次得到,即
。itCCA中的CCA過程如式(29)所示:
![]() |
最終選取最大的對應的頻率為識別頻率。
2.2 多路典型相關分析
Zhang等[25]在2011年提出多路典型相關分析(multiway canonical correlation analysis,mwayCCA),通過最大化腦電數據張量和正余弦模版之間的相關性來獲得更有效的SSVEP參考信號。相比正余弦參考信號,mwayCCA得到的參考信號不僅包含了SSVEP的頻率成分,還包含了個體間和試次間的變異性信息。
假設第 i 個刺激目標所對應的腦電信號為 。在正余弦參考信號
的基礎上,通過優化導聯權重和試次權重從時域中獲得更具有魯棒性的參考信號。其優化過程為尋找權重向量
、
和
,使
與
之間相關系數最大具體過程如式(30)所示:
![]() |
其中 ,
,運算符
和
代表張量與向量相乘(又稱模態積,n-mode product)。對于
階張量
,與向量
相乘過程如式(31)所示:
![]() |
求解此優化目標采用交替算法,先固定 求解
和
,再固定
和
求解
。重復此過程,直至滿足收斂條件,最終選取最大的
對應的頻率為識別頻率。
優化后的參考信號 如式(32)所示:
![]() |
2.3 擴展典型相關分析
Chen等[26]在2015年提出的擴展典型相關性分析(extended canonical correlation analysis,eCCA)結合了CCA和itCCA的優勢,同時應用了個體平均模板和正余弦參考信號的相關信息。eCCA的空間濾波器由三部分組成:測試數據和個體平均模板經CCA獲得的空間濾波器 ,測試數據和正余弦參考信號經CCA獲得的空間濾波器
,以及個體平均模板和正余弦參考信號經CCA獲得的空間濾波器
。通過空間濾波后獲得的相關系數向量
如式(33)所示:
![]() |
利用相關值的加權平方和作為目標識別的決策值。見式(34):
![]() |
最終選取最大的 對應的頻率為識別頻率。
2.4 任務相關成分分析
Nakanishi等[27]在2018年首次將TRCA算法用于SSVEP解碼,通過最大化同一任務在不同試次間的相似性,來提高信號SNR和分類準確率。實驗結果表明利用TRCA的在線BCI拼寫系統平均ITR達到(325.33 ± 38.17)bits/min。
假設導聯 所采集的腦電信號
,由任務相關信號
和任務無關信號
的線性組合構成。見式(35):
![]() |
其中 和
分別表示任務相關信號與任務無關信號對應的混合系數。
假設其他導聯所采集的信號為線性組合。見式(36):
![]() |
將 視為任務相關信號
的估計,為最大程度地保留任務相關成分及減少無關成分,利用試次間協方差最大化使
。假設第
個試次原始腦電信號和任務相關信號為
和
,將所有試次組合。見式(37):
![]() |
其中 見式(38):
![]() |
為獲得確定解,限定 的方差為1。見式(39):
![]() |
該約束優化問題可轉換為式(40):
![]() |
根據廣義瑞利商,空間濾波器 的最優估計
為矩陣
的最大特征值對應的特征向量。
利用訓練數據 通過TRCA獲得對應的空間濾波器
,再利用
對測試數據
和按試次平均的訓練數據
進行濾波,計算兩者的相關系數
,最終選取最大相關系數對應的頻率為識別頻率。
因不同視覺刺激對應的空間濾波器存在相似性,Nakanishi等[27]又提出集成任務相關成分分析(ensemble task-related component analysis,eTRCA)。拼接全部類別對應的空間濾波器模板 ,得到集成空間濾波器
。經
濾波后測試數據變為
,分別將
和
按行拼接成兩個向量,計算兩者相關系數
,最終選取最大相關系數對應的頻率為識別頻率。
2.5 互關聯任務相關成分分析
TRCA默認試次間腦電信號誘發時間和初始相位相同,但試次間初始相位會隨被試狀態變化,導致基線偏移。Tanaka 等[28]在2019年提出互關聯任務相關成分分析(cross-correlation task-related component analysis,xTRCA),其目的是用于事件相關電位(event-related potential,ERP)分析中各試次相位對齊,以提高信號SNR。本文認為該算法思想亦有潛力應用于SSVEP信號,將其列入文中。但目前如何將xTRCA融合于SSVEP信號,以及其對于SSVEP信號的解碼效果暫時沒有相關的公開研究。
同時考慮濾波器 與時延向量
,則將原TRCA約束問題轉換為式(41),
為時延向量的估計:
![]() |
初始化 =
為零向量,計算當前時延向量下
的最大特征值
作為初始特征值。迭代更新
、
從而進一步更新主特征值
,直至滿足式(42)時停止迭代(閾值
在文中取
):
![]() |
3 算法設計策略及總結
算法設計策略是對腦電信號的預處理方式,不同設計策略基于的假設與提取的信息各不相同,因此實現方式也各不相同。但這些設計策略可以較好地與常用的經典解碼算法(如CCA、TRCA等)相結合,從而進一步提高算法的性能。常用的設計策略包括濾波器組、跨頻率學習及動態停止等。
濾波器組策略通過設計多組可覆蓋刺激頻率基頻和諧波分量的濾波器,來更好地提取蘊藏在腦電信號中的諧波響應信息。Qin等[29]利用濾波器組策略,顯著提升了MSI的性能,在線SSVEP實驗平均準確率達83.56%,相較標準MSI提高12.26%。
跨頻率學習策略基于SSVEP在不同刺激頻率中空間分布模式相似的思想[30],同時從目標刺激訓練數據和目標周圍刺激訓練數據中學習空間濾波器,擴大了可用訓練數據的規模及空間濾波器的泛化性能。Wong等[22]將跨頻率學習策略擴展到主流算法,形成ms-eCCA和ms-eTRCA。結果表明擴展后的ms-eCCA(ms-eTRCA)表現明顯優于eCCA(eTRCA),且兩者組合(即ms-eCCA+ms-eTRCA)的效果最好。
動態停止策略考慮到腦電信號跨時間變異性,利用貝葉斯方法估計當前數據長度下達到輸出條件的置信度。Yang等[31]將該策略結合時間和空間信息進一步開發出STE-DW方法,并在決策時采用MEC,使平均ITR達134 bits/min。
綜合上述算法,表2[14-16,18-19,21-22,24-27,32]列舉了各算法間綜合性能的對比。需要注意的是,由于不同文獻中對數據長度、訓練樣本個數等參數的選擇及算法實現方式存在差異,不同文獻間的數據對比僅供參考。結合表2,就實用性而言,無訓練算法無疑是最好的選擇;就性能而言,需要被試數據進行訓練的解碼算法能更好地提取出SSVEP信號特征。在選擇算法時需從系統指令數及系統實用性等多方面衡量。對指令數較少需求較少的家用BCI系統或特殊人群(如殘障患者等),應首選無訓練解碼算法。對指令數需求較大或需大量有標簽訓練數據的BCI系統,可選擇有訓練解碼算法。

4 機遇與挑戰
BCI技術發展迅速,高性能、高速率的SSVEP-BCI系統相繼被開發出來。但因腦電信號的非線性[33]、非穩定性[34]及個體差異性[35],如何利用跨設備、跨被試、跨時間、跨試次的腦電信號來擴充樣本量,從而減少訓練過程成為了新的研究熱點。未來可借助深度學習和遷移學習等新技術來發展解碼算法。深度學習作為目前最熱門的機器學習方法,已廣泛應用于圖像處理[36-38]、健康監測[39-41]、藥物研發[42]、基因組分析[43-44]及疾病診斷[45-46]等眾多生物醫學與醫療健康領域,EEG-Net等適用于視覺誘發電位的深度學習網絡也在不同范式下取得了相對較高的性能[47-49]。但深度學習需要大量樣本來訓練模型,ITR低且數量有限的樣本大大影響了模型的訓練效果。遷移學習算法可有效解決深度學習所面臨的樣本量不足問題,例如基于最小二乘變換(least squares transformation,LST)的遷移學習利用跨被試、跨時間、跨試次的訓練數據,提高了SSVEP解碼精度[50]。但由于腦電信號個體差異較大,高性能的遷移學習算法還亟待進一步探索。
SSVEP-BCI系統需要依賴顯示設備來呈現刺激,最常用的顯示設備為計算機顯示屏,因此難以實現可穿戴而限制了BCI系統的便攜性;注意力始終集中在屏幕的視覺刺激上,也限制了用戶對周圍信息的獲取,導致交互不自然。利用沉浸式頭戴設備(如Hololens和N-Goggle等)提供視覺刺激的SSVEP-BCI系統近幾年被開發出來。但受硬件限制,頭戴設備刷新率不穩定造成的刺激頻率不準確會影響實驗效果。
在實際應用場景中,理想的BCI系統應允許被試通過主動控制思維活動,來實現對外設的實時控制。同步BCI系統需被試在系統的同步提示下進行任務切換,被試并非真正意義上控制系統。相較同步BCI系統,異步BCI系統的控制方式更加靈活。其通過不間斷檢測被試狀態,以確定被試是否處于任務態。異步BCI系統提供了更加靈活和自然的腦-機交互方式,而如何準確判斷被試任務狀態和非任務狀態是BCI系統面臨的又一挑戰。
綜上所述,開發出便攜性高、交互自由的腦-機交互界面是SSVEP-BCI系統未來的設計語言,而設計出魯棒性強、分類效率高、遷移性好的解碼算法是腦電信號提取和分析的發展方向。
重要聲明
利益沖突聲明:本文全體作者均聲明不存在利益沖突。
作者貢獻聲明:楊滿為綜述主要撰寫人,完成文獻資料的整理收集與分析,以及論文初稿的撰寫;鐘子平、韓錦參與文獻資料分析與論文修改;許敏鵬參與論文的修改與指導;明東參與論文的指導與審校。
引言
腦-機接口(brain-computer interface,BCI)是將中樞神經系統活動直接轉化為人工輸出的系統,它能夠替代、修復、增強、補充或改善中樞神經系統的正常輸出,從而改善中樞神經系統與內外環境之間的交互作用[1-2]。視覺型BCI是通過采集經視覺刺激調制后的腦電信號,識別與大腦意圖相關的腦電特征,并將其轉化為機器指令輸出的系統。常見的視覺型BCI包括穩態視覺誘發電位(steady-state visual evoked potentials,SSVEP)[3-4]、P300[5-6]、SSVEP-P300混合范式[7-8]和基于運動起始視覺誘發電位(motion-onset visual evoked potential,mVEP)[9]等。其中SSVEP因具有誘發特征穩定、信噪比(signal-to-noise radio,SNR)高等優點,引起了廣泛關注,已成為BCI三大主流范式之一[10-12]。
SSVEP-BCI系統主要包括編碼和解碼兩部分,編碼是將不同頻率、相位等信息轉換為用于誘發相應腦電信號的閃爍刺激特征的過程。解碼是對腦電信號進行提取識別,其識別的精度直接決定了SSVEP-BCI系統的性能,是BCI系統高效準確識別的關鍵所在。為此,國內外研究者從時間、空間、頻率及相位等方面開展了SSVEP解碼算法研究,先后提出了典型相關分析(canonical correlation analysis,CCA)、任務相關成分分析(task-related component analysis,TRCA)等經典解碼算法,取得了較好的效果,已廣泛應用于SSVEP研究。然而,由于SSVEP解碼算法類別眾多,且不同解碼算法的基本原理和適用范圍各不相同,目前尚未有研究對SSVEP算法進行系統梳理和對比,致使研究者難以根據特定情況選擇最優的解碼算法。
本文總結了近幾年SSVEP解碼算法的研究進展,首先按照是否需要被試的個體訓練數據,將SSVEP解碼算法分為無訓練和有訓練解碼算法兩類。對于無訓練解碼算法,即無需額外被試個體數據作校準的算法,介紹了包括功率譜密度分析(power spectral density analysis,PSDA)、最小能量組合(minimum energy combination,MEC)、CCA等經典解碼算法及其相應的擴展改進算法。對于有訓練解碼算法,即需要額外被試個體數據訓練得到最優模型,用其解碼測試個體數據的算法,介紹了TRCA及其改進算法,以及有訓練的CCA改進算法。其次,本文介紹了包括濾波器組(filter bank)、跨頻率學習(multi-stimulus)、動態停止(dynamic stopping)等在內的常見算法設計策略,最后討論了SSVEP解碼算法的機遇與挑戰。為方便讀者對不同算法描述符號和流程分析的理解,表1列舉了本文中使用的主要符號及其說明。

1 無訓練解碼算法
在BCI發展的早期,研究者對SSVEP信號的空間分布形態尚不明確,因此SSVEP信號識別方法僅存在于非空間解碼水平。對于非空間解碼算法,PSDA曾廣泛用于單導聯頻率檢測。隨著對SSVEP理解的深入及腦電信號處理的進一步發展,以CCA為代表的空間濾波方法被開發來濾除背景腦電,增強誘發特征SNR,被廣泛用于SSVEP-BCI系統。常用的無訓練空間解碼算法包括MEC、多元同步指數(multivariate synchronization index,MSI)以及最新提出的基于時空均衡動態時間窗策略(spatio-temporal equalization dynamic window,STE-DW),都證明比傳統的PSDA方法更有效。本節按算法提出的時間順序,對無訓練算法從基本原理和適用范圍兩方面進行介紹。
1.1 功率譜密度分析
Cheng等[13]在2002年提出利用快速傅里葉變換(fast Fourier transform,FFT)將腦電信號從時域變換到頻域,由此獲得信號功率和幅值沿頻率分布的曲線,用來檢測單導聯腦電數據的頻率。其本質是離散傅里葉變換(discrete Fourier transform,DFT)。
假設單導聯腦電數據,利用DFT計算出的離散頻譜
)。見式(1):
![]() |
為便于快速計算,將采樣點數量拓展為2的冪次方。假設所有刺激頻率均為奇數,是刺激頻率
下的功率密度值,
是功率譜峰值對應的頻率。見式(2):
![]() |
若 為奇數,取
作為識別頻率
;若
為偶數,取
左右兩點頻率最大值作為識別頻率
。
1.2 最小能量組合
Volosyak[14]在2011年將能夠降低噪聲能量和增強有效特征的MEC算法應用于在線BCI系統。
假設某試次腦電數據為。建立腦電信號模型,將
分解成兩部分。見式(3):
![]() |
其中, 是正弦諧波頻率混合信號,
是加權矩陣,
是正余弦參考信號如式(4)所示,E 是干擾信號及噪聲,
和
為混疊系數,f為基頻頻率。
![]() |
定義一個與線性相關的導聯矢量
。見式(5):
![]() |
其中 是單導聯信號的加權矩陣,將其擴展到
個導聯,即
。如式(6):
![]() |
需要求解空間濾波器 ,用其對
進行濾波,使
中的噪聲最小。算法主要步驟如下。
利用正交投影來移除模型中有效信號特征,獲得噪聲信號的估計 。見式(7):
![]() |
求解 使得噪聲信號的能量最小。見式(8):
![]() |
將其轉化為廣義特征值問題,并按照特征貢獻率選取 個特征向量組成
,結合式(5)和式(9)計算SSVEP能量大小。
![]() |
在實際應用中,計算并標準化各個頻率下腦電信號所包含的SSVEP能量,見式(10):
![]() |
最終選取最大的SSVEP能量 所對應的頻率為識別頻率。
1.3 多元同步指數
Zhang等[15]在2014年提出利用MSI識別多頻率腦電信號,在數據長度較短和導聯數較少的情況下取得了良好的性能。MSI通過估計腦電信號與正余弦參信號之間的同步指數來識別刺激頻率。
假設單試次腦電數據為 ,
為正余弦參考信號。定義相關矩陣
如式(11):
![]() |
為減少 和
自相關對同步度量帶來的影響,利用白化矩陣
去除
中的特征相關性。見式(12):
![]() |
經過變換后的相關矩陣 見式(13):
![]() |
設 是
的特征值,將其標準化。見式(14):
![]() |
與
之間的同步指數為
。見式(15):
![]() |
在實際應用中,分別計算各個頻率腦電信號與模板之間的同步指數 ,最終選取最大的
所對應的頻率為識別頻率。
1.4 典型相關分析
Bin等[16]在2009年搭建了利用CCA算法解碼的在線SSVEP-BCI系統,識別準確率達95.3%,信息傳輸速率(information transfer rate,ITR)達(58 ± 9.6)bits/min。CCA和MSI都是衡量兩組變量相關性的方法。相關研究表明,隨刺激頻率及導聯數的增加,CCA的分類準確率高于MEC和MSI[17]。CCA的思想通過尋找兩組高維向量的投影矩陣,用其對高維向量降維,使降維后兩向量間相關性最大,具體過程如下:
假設第 個目標下第
個試次對應腦電信號
,
是正余弦參考信號。CCA過程如式(16):
![]() |
其中 代表數學期望。在實際應用中,分別計算各頻率腦電信號與參考信號之間的
,最終選取最大的
對應的頻率為識別頻率。
1.5 基于遷移學習模板的典型相關分析
因不同被試間SSVEP信號的任務相關(task-related)特征相似,若利用CCA解碼目標被試(target subject)時,將模板中加入其他被試(稱為源被試,source subject)任務相關信息作為個體模板,可有效提高算法分類準確率。基于此思想,Yuan等[18]在2015年提出了基于遷移模板的典型相關分析(transfer template-based canonical correlation analysis,ttCCA)。當數據長度為1.5 s時,ttCCA分類準確率相較CCA提高了18.78%。
假設目標被試測試信號 ,源模板(source template)
是源被試數據按被試和試次平均后的結果。見式(17):
![]() |
假設任務相關空間濾波器在同類的不同源被試間相似,而不同類的空間濾波器不同,對于 類需學習
個不同的空間濾波器。因此分別計算測試信號
與正余弦參考信號
經CCA后獲得的任務相關空間濾波器
和
,源模板
與正余弦參考信號
經CCA后獲得的空間濾波器
和
。對
和
濾波后計算多個相關系數,系數向量
。見式(18):
![]() |
將相關系數融合后得到融合系數。見式(19):
![]() |
最終選取最大的 對應的頻率為識別頻率。
1.6 基于遷移學習模板和濾波器的典型相關分析
ttCCA假設濾波器在同類的不同源被試間相似,從源模版中學習到的 并沒有考慮到不同源被試之間的誤匹配,會導致潛在問題。因此Lao等[19]在2018年提出了基于遷移學習模板和濾波器的典型相關分析(transfer template and filter canonical correlation analysis,ttfCCA),來進一步優化ttCCA。
與ttCCA利用源被試平均模板 學習濾波器不同,ttfCCA從各個源被試數據中學習可遷移的空間濾波器。此外,ttfCCA假設不同類的空間濾波器也相似,因此從不同類學到的任務相關空間濾波器(這里稱基礎濾波器,basis filters)存在于低維子空間,而非
空間。
假設第 名被試的第
類刺激按試次平均腦電數據為
。利用最大化均方余弦相似度(average square cosine similarity)從各個源被試的任務相關濾波器中得到基礎濾波器的估計
,其中
表示
與正余弦參考信號
經過CCA得到的空間濾波器如式(20)所示:
![]() |
對優化目標進行特征分解得到包含 個特征值和特征向量,利用輪廓對數似然[20]求解出一個適當的數
,并取特征向量前
列作為第
名被試基礎濾波器(因篇幅限制,此處省略
的求解過程)。對所有源被試腦電數據重復上述步驟,得到
組基礎濾波器。將基礎濾波器依次拼接,得到濾波器
,其描述了多數被試任務相關濾波器所依賴的子空間。
利用進一步求解可跨越低維子空間的基礎濾波器(這里稱為原型濾波器,prototype filters)。見式(21):
![]() |
其中 ,再求出原型濾波器所需濾波器數量
。最終所選擇出的
個原型濾波器
作為任務相關空間濾波器的最優估計。
在實際應用中,利用正余弦參考信號 和
個原型濾波器對目標被試某一試次的測試數據
和源模版
進行濾波,得到
個
與源模板之間的相關系數。通過空間濾波后獲得相關系數向量
。見式(22):
![]() |
將所有相關系數進行融合得到融合系數 。見式(23):
![]() |
最終選取最大的對應的頻率為識別頻率。
1.7 基于被試遷移學習模板的典型相關分析
Wong等[21]在2020年提出了基于被試遷移模板的典型相關分析(subject transfer-based canonical correlation analysis,stCCA)。stCCA充分利用不同源被試與目標被試的個體信息,只需少量校準數據就能發揮出好的性能,結果證明僅利用9次校準試次,ITR可達(198.18 ± 59.12)bits/min。
假設源被試個體內的空間濾波器在不同頻率的刺激下通用,且不同源被試的模板在低維子空間可共享。依據跨頻率學習策略[22],通用空間濾波器可利用個不同頻率的校準數據來計算。見式(24):
![]() |
其中 和
是
個頻率拼接的腦電數據模板
和參考信號
。見式(25):
![]() |
其中
代表K個對應刺激頻率由小到大的頻率索引向量。由于對測試數據沒有先驗知識,作者利用選擇策略從
個頻率中選出
個頻率,這里省略選擇過程。因選擇策略未利用各類刺激頻率
,因此stCCA空間濾波器在所有刺激頻率中通用,用
和
表示濾波器的估計。
根據基于實例(instance-based)的遷移學習方法[23]將源被試經空間濾波后的SSVEP模板加權求和,可近似得到目標被試經空間濾波后的SSVEP模板,具體過程如圖1所示。
通過最小化目標被試 個經空間濾波的SSVEP模板
和
名源被試
個經空間濾波的SSVEP模板
的加權和的平方誤差,來確定各個源被試所占權重
,利用多元線性回歸(multivariate linear regression,MLR)求解。見式(26):
![]() |
其中 ,
是目標被試
個空間濾波后SSVEP模板的拼接信號,
是來自
名源被試的
個空間濾波后的SSVEP模板,
代表Frobenius范數,其解為
。最后計算加權求和后,源被試間SSVEP模板
。見式(27):
![]() |
在實際應用中,對于測試數據 ,計算融合系數
。見式(28):
![]() |
最終選取最大的 對應的頻率為識別頻率。
2 有訓練解碼算法
無訓練解碼算法不需被試的個體數據,訓練成本低,具有良好的適用性,但因缺乏目標被試的個體信息,難以滿足實際場景下對高準確率、高精度BCI系統的需求。有訓練算法可以從訓練數據中學習生成符合被試腦電特征的空間濾波器和SSVEP模板,進一步提高分類準確率。下面對有訓練數據的CCA改進算法,以及TRCA及其改進算法進行介紹。
2.1 基于個體模板的典型相關分析
Bin等[24]在2011年提出基于個體模板的典型相關分析(individual template-based canonical correlation analysis,itCCA)。itCCA與CCA的區別在于將CCA中正余弦參考信號替換為基于個體的平均模板,以更好地評估被試狀態。
對第 個刺激目標,個體平均模板
可以通過平均多個訓練試次得到,即
。itCCA中的CCA過程如式(29)所示:
![]() |
最終選取最大的對應的頻率為識別頻率。
2.2 多路典型相關分析
Zhang等[25]在2011年提出多路典型相關分析(multiway canonical correlation analysis,mwayCCA),通過最大化腦電數據張量和正余弦模版之間的相關性來獲得更有效的SSVEP參考信號。相比正余弦參考信號,mwayCCA得到的參考信號不僅包含了SSVEP的頻率成分,還包含了個體間和試次間的變異性信息。
假設第 i 個刺激目標所對應的腦電信號為 。在正余弦參考信號
的基礎上,通過優化導聯權重和試次權重從時域中獲得更具有魯棒性的參考信號。其優化過程為尋找權重向量
、
和
,使
與
之間相關系數最大具體過程如式(30)所示:
![]() |
其中 ,
,運算符
和
代表張量與向量相乘(又稱模態積,n-mode product)。對于
階張量
,與向量
相乘過程如式(31)所示:
![]() |
求解此優化目標采用交替算法,先固定 求解
和
,再固定
和
求解
。重復此過程,直至滿足收斂條件,最終選取最大的
對應的頻率為識別頻率。
優化后的參考信號 如式(32)所示:
![]() |
2.3 擴展典型相關分析
Chen等[26]在2015年提出的擴展典型相關性分析(extended canonical correlation analysis,eCCA)結合了CCA和itCCA的優勢,同時應用了個體平均模板和正余弦參考信號的相關信息。eCCA的空間濾波器由三部分組成:測試數據和個體平均模板經CCA獲得的空間濾波器 ,測試數據和正余弦參考信號經CCA獲得的空間濾波器
,以及個體平均模板和正余弦參考信號經CCA獲得的空間濾波器
。通過空間濾波后獲得的相關系數向量
如式(33)所示:
![]() |
利用相關值的加權平方和作為目標識別的決策值。見式(34):
![]() |
最終選取最大的 對應的頻率為識別頻率。
2.4 任務相關成分分析
Nakanishi等[27]在2018年首次將TRCA算法用于SSVEP解碼,通過最大化同一任務在不同試次間的相似性,來提高信號SNR和分類準確率。實驗結果表明利用TRCA的在線BCI拼寫系統平均ITR達到(325.33 ± 38.17)bits/min。
假設導聯 所采集的腦電信號
,由任務相關信號
和任務無關信號
的線性組合構成。見式(35):
![]() |
其中 和
分別表示任務相關信號與任務無關信號對應的混合系數。
假設其他導聯所采集的信號為線性組合。見式(36):
![]() |
將 視為任務相關信號
的估計,為最大程度地保留任務相關成分及減少無關成分,利用試次間協方差最大化使
。假設第
個試次原始腦電信號和任務相關信號為
和
,將所有試次組合。見式(37):
![]() |
其中 見式(38):
![]() |
為獲得確定解,限定 的方差為1。見式(39):
![]() |
該約束優化問題可轉換為式(40):
![]() |
根據廣義瑞利商,空間濾波器 的最優估計
為矩陣
的最大特征值對應的特征向量。
利用訓練數據 通過TRCA獲得對應的空間濾波器
,再利用
對測試數據
和按試次平均的訓練數據
進行濾波,計算兩者的相關系數
,最終選取最大相關系數對應的頻率為識別頻率。
因不同視覺刺激對應的空間濾波器存在相似性,Nakanishi等[27]又提出集成任務相關成分分析(ensemble task-related component analysis,eTRCA)。拼接全部類別對應的空間濾波器模板 ,得到集成空間濾波器
。經
濾波后測試數據變為
,分別將
和
按行拼接成兩個向量,計算兩者相關系數
,最終選取最大相關系數對應的頻率為識別頻率。
2.5 互關聯任務相關成分分析
TRCA默認試次間腦電信號誘發時間和初始相位相同,但試次間初始相位會隨被試狀態變化,導致基線偏移。Tanaka 等[28]在2019年提出互關聯任務相關成分分析(cross-correlation task-related component analysis,xTRCA),其目的是用于事件相關電位(event-related potential,ERP)分析中各試次相位對齊,以提高信號SNR。本文認為該算法思想亦有潛力應用于SSVEP信號,將其列入文中。但目前如何將xTRCA融合于SSVEP信號,以及其對于SSVEP信號的解碼效果暫時沒有相關的公開研究。
同時考慮濾波器 與時延向量
,則將原TRCA約束問題轉換為式(41),
為時延向量的估計:
![]() |
初始化 =
為零向量,計算當前時延向量下
的最大特征值
作為初始特征值。迭代更新
、
從而進一步更新主特征值
,直至滿足式(42)時停止迭代(閾值
在文中取
):
![]() |
3 算法設計策略及總結
算法設計策略是對腦電信號的預處理方式,不同設計策略基于的假設與提取的信息各不相同,因此實現方式也各不相同。但這些設計策略可以較好地與常用的經典解碼算法(如CCA、TRCA等)相結合,從而進一步提高算法的性能。常用的設計策略包括濾波器組、跨頻率學習及動態停止等。
濾波器組策略通過設計多組可覆蓋刺激頻率基頻和諧波分量的濾波器,來更好地提取蘊藏在腦電信號中的諧波響應信息。Qin等[29]利用濾波器組策略,顯著提升了MSI的性能,在線SSVEP實驗平均準確率達83.56%,相較標準MSI提高12.26%。
跨頻率學習策略基于SSVEP在不同刺激頻率中空間分布模式相似的思想[30],同時從目標刺激訓練數據和目標周圍刺激訓練數據中學習空間濾波器,擴大了可用訓練數據的規模及空間濾波器的泛化性能。Wong等[22]將跨頻率學習策略擴展到主流算法,形成ms-eCCA和ms-eTRCA。結果表明擴展后的ms-eCCA(ms-eTRCA)表現明顯優于eCCA(eTRCA),且兩者組合(即ms-eCCA+ms-eTRCA)的效果最好。
動態停止策略考慮到腦電信號跨時間變異性,利用貝葉斯方法估計當前數據長度下達到輸出條件的置信度。Yang等[31]將該策略結合時間和空間信息進一步開發出STE-DW方法,并在決策時采用MEC,使平均ITR達134 bits/min。
綜合上述算法,表2[14-16,18-19,21-22,24-27,32]列舉了各算法間綜合性能的對比。需要注意的是,由于不同文獻中對數據長度、訓練樣本個數等參數的選擇及算法實現方式存在差異,不同文獻間的數據對比僅供參考。結合表2,就實用性而言,無訓練算法無疑是最好的選擇;就性能而言,需要被試數據進行訓練的解碼算法能更好地提取出SSVEP信號特征。在選擇算法時需從系統指令數及系統實用性等多方面衡量。對指令數較少需求較少的家用BCI系統或特殊人群(如殘障患者等),應首選無訓練解碼算法。對指令數需求較大或需大量有標簽訓練數據的BCI系統,可選擇有訓練解碼算法。

4 機遇與挑戰
BCI技術發展迅速,高性能、高速率的SSVEP-BCI系統相繼被開發出來。但因腦電信號的非線性[33]、非穩定性[34]及個體差異性[35],如何利用跨設備、跨被試、跨時間、跨試次的腦電信號來擴充樣本量,從而減少訓練過程成為了新的研究熱點。未來可借助深度學習和遷移學習等新技術來發展解碼算法。深度學習作為目前最熱門的機器學習方法,已廣泛應用于圖像處理[36-38]、健康監測[39-41]、藥物研發[42]、基因組分析[43-44]及疾病診斷[45-46]等眾多生物醫學與醫療健康領域,EEG-Net等適用于視覺誘發電位的深度學習網絡也在不同范式下取得了相對較高的性能[47-49]。但深度學習需要大量樣本來訓練模型,ITR低且數量有限的樣本大大影響了模型的訓練效果。遷移學習算法可有效解決深度學習所面臨的樣本量不足問題,例如基于最小二乘變換(least squares transformation,LST)的遷移學習利用跨被試、跨時間、跨試次的訓練數據,提高了SSVEP解碼精度[50]。但由于腦電信號個體差異較大,高性能的遷移學習算法還亟待進一步探索。
SSVEP-BCI系統需要依賴顯示設備來呈現刺激,最常用的顯示設備為計算機顯示屏,因此難以實現可穿戴而限制了BCI系統的便攜性;注意力始終集中在屏幕的視覺刺激上,也限制了用戶對周圍信息的獲取,導致交互不自然。利用沉浸式頭戴設備(如Hololens和N-Goggle等)提供視覺刺激的SSVEP-BCI系統近幾年被開發出來。但受硬件限制,頭戴設備刷新率不穩定造成的刺激頻率不準確會影響實驗效果。
在實際應用場景中,理想的BCI系統應允許被試通過主動控制思維活動,來實現對外設的實時控制。同步BCI系統需被試在系統的同步提示下進行任務切換,被試并非真正意義上控制系統。相較同步BCI系統,異步BCI系統的控制方式更加靈活。其通過不間斷檢測被試狀態,以確定被試是否處于任務態。異步BCI系統提供了更加靈活和自然的腦-機交互方式,而如何準確判斷被試任務狀態和非任務狀態是BCI系統面臨的又一挑戰。
綜上所述,開發出便攜性高、交互自由的腦-機交互界面是SSVEP-BCI系統未來的設計語言,而設計出魯棒性強、分類效率高、遷移性好的解碼算法是腦電信號提取和分析的發展方向。
重要聲明
利益沖突聲明:本文全體作者均聲明不存在利益沖突。
作者貢獻聲明:楊滿為綜述主要撰寫人,完成文獻資料的整理收集與分析,以及論文初稿的撰寫;鐘子平、韓錦參與文獻資料分析與論文修改;許敏鵬參與論文的修改與指導;明東參與論文的指導與審校。