劉喆,牛天渭,孫奧,何樂民,程運(yùn)福,張瑱,徐龍春,張崗,張敏鳳,鄒越,趙海辰,呂睿,張光玉
1.山東第一醫(yī)科大學(xué)(山東省醫(yī)學(xué)科學(xué)院)放射學(xué)院,山東泰安 271016;2.山東第一醫(yī)科大學(xué)(山東省醫(yī)學(xué)科學(xué)院)第二附屬醫(yī)院放射科,山東泰安 271000;3山東第一醫(yī)科大學(xué)(山東省醫(yī)學(xué)科學(xué)院)第二附屬醫(yī)院耳鼻喉科,山東泰安 271000
腦科學(xué)研究對于人類不斷認(rèn)識(shí)自身與世界有著重要意義,是科技發(fā)展的前沿領(lǐng)域。近年來各國紛紛制訂腦科學(xué)研究規(guī)劃,加大對腦科學(xué)研究的投入,力圖占領(lǐng)這一領(lǐng)域的研究制高點(diǎn),并推動(dòng)相關(guān)產(chǎn)業(yè)的進(jìn)步[1]。針對腦科學(xué)和類腦研究,歐洲、美國、日本和中國都制定了相應(yīng)的腦計(jì)劃,并取得了突破性的成果[2-5]。2016年,我國“十三五”規(guī)劃將“腦科學(xué)與類腦研究”列為“科技創(chuàng)新2030—重大項(xiàng)目”,預(yù)示著“中國腦計(jì)劃”也已正式啟動(dòng);“十四五”規(guī)劃綱也將“腦科學(xué)與類腦研究”列為重點(diǎn)發(fā)展領(lǐng)域。
雖然中國擁有豐富的臨床資源可供腦科學(xué)研究,但目前用于這方面研究的軟件大多運(yùn)行速度較慢或操作繁瑣,還不能完全滿足腦科學(xué)研究的需要。因此,設(shè)計(jì)一款操作簡單、運(yùn)行速度較快且可用于腦科學(xué)研究的軟件,對于腦科學(xué)發(fā)展計(jì)劃的實(shí)施具有重要意義。
筆者先前的研究“虛擬數(shù)字腦軟件平臺(tái)的研究與開發(fā)”介紹了英文版虛擬數(shù)字腦軟件平臺(tái)[6]。該平臺(tái)是針對歐洲虛擬大腦軟件平臺(tái)[7-10]存在的問題,借鑒腦科學(xué)研究的成果,在VC++12.0 的開發(fā)環(huán)境下,利用C/C++編程語言開發(fā)的一款能夠用于腦科學(xué)和類腦研究的軟件包[11]。雖然相對于歐洲虛擬大腦軟件平臺(tái),英文版虛擬數(shù)字腦軟件平臺(tái)安裝環(huán)境簡單、操作相對便捷、功能更加完善,但其還存在著一些問題,如操作步驟與功能還需進(jìn)一步優(yōu)化完善,程序代碼還存在一些問題等。虛擬數(shù)字腦中文版軟件平臺(tái)是對英文版虛擬數(shù)字腦軟件平臺(tái)的改進(jìn),它將英文版軟件中文化,并在軟件原有的基礎(chǔ)上優(yōu)化虛擬數(shù)字腦功能操作步驟,增加腦區(qū)信息處理速度、腦區(qū)神經(jīng)活動(dòng)強(qiáng)度以及相關(guān)輔助功能,優(yōu)化代碼,修復(fù)程序中的漏洞,使軟件操作更加便捷,功能更加完善,能更好地適用于腦科學(xué)研究,并為類腦人工智能的研究提供一定的啟示。
1.1.1 測試圖像山東第一醫(yī)科大學(xué)第二附屬醫(yī)院影像科提供的NIFTI格式磁共振醫(yī)學(xué)圖像。
1.1.2 腦區(qū)模板61×73×61 或91×109×91 大小的NIFTI格式Brodmann或AAL標(biāo)準(zhǔn)腦區(qū)模板。
1.1.3 刺激信號由自編軟件生成的單任務(wù)刺激信號與多任務(wù)刺激信號。
1.2.1 軟件設(shè)計(jì)改進(jìn)后的虛擬數(shù)字腦中文版軟件平臺(tái)總體框架如圖1所示。此軟件包括3 條主要功能路線,由“節(jié)點(diǎn)與因果連接”、“構(gòu)建虛擬數(shù)字腦”、“獲得虛擬激活腦區(qū)”、“統(tǒng)計(jì)學(xué)分析”以及“統(tǒng)計(jì)學(xué)分析結(jié)果顯示”5個(gè)對話框完成(圖2)。
圖1 虛擬數(shù)字腦中文版軟件總體框架Figure 1 General framework of the Chinese version of virtual digital brain software
圖2 虛擬數(shù)字腦軟件中文版功能路線一Figure 2 Functional route one of the Chinese version of virtual digital brain software
(1)功能路線一:構(gòu)建因果連接網(wǎng)→(因果連接網(wǎng)統(tǒng)計(jì)學(xué)分析及顯示)→構(gòu)建虛擬數(shù)字腦→激活虛擬數(shù)字腦→統(tǒng)計(jì)學(xué)分析→統(tǒng)計(jì)學(xué)分析結(jié)果顯示
英文版本中,該路線由兩部分完成,詳細(xì)信息可參考文獻(xiàn)[6],而中文版本將其分5部分,并添加了操作說明及步驟解釋等功能,更方便使用者對軟件的理解與操作。
①構(gòu)建因果連接網(wǎng):使用預(yù)處理后的磁共振數(shù)據(jù)與腦區(qū)模板(Brodmann 腦區(qū)模板或AAL 腦區(qū)模板)通過熵連接方法[12]構(gòu)建因果連接網(wǎng),因果連接網(wǎng)包括同步因果連接網(wǎng)與異步因果連接網(wǎng)。
②構(gòu)建虛擬數(shù)字腦:利用構(gòu)建的同步與異步因果連接網(wǎng)、預(yù)處理的磁共振數(shù)據(jù)和多變量回歸模型構(gòu)建虛擬數(shù)字腦。
③激活虛擬數(shù)字腦:構(gòu)建虛擬數(shù)字腦后,可根據(jù)實(shí)際需求,將特定刺激信號輸入到虛擬數(shù)字腦的某個(gè)或某些腦區(qū),通過腦區(qū)神經(jīng)活動(dòng)預(yù)測模型和迭代算法獲得各腦區(qū)神經(jīng)活動(dòng)信號的強(qiáng)度。
④統(tǒng)計(jì)學(xué)分析:對上述步驟得到的結(jié)果進(jìn)行統(tǒng)計(jì)學(xué)分析,從而得到腦區(qū)間的因果連接、單對象腦區(qū)激活結(jié)果、單組對象腦區(qū)激活結(jié)果、兩組對象激活結(jié)果比較等。
⑤統(tǒng)計(jì)學(xué)分析結(jié)果顯示:分析后的結(jié)果可通過多平面重建和可視化或Excel顯示來進(jìn)行觀察分析。
(2)功能路線二:獲得腦區(qū)信息處理速度→統(tǒng)計(jì)學(xué)分析→分析結(jié)果的顯示
此功能為新添加功能。使用預(yù)處理后的磁共振數(shù)據(jù)與腦區(qū)模板(Brodmann 腦區(qū)模板或AAL 腦區(qū)模板)獲得腦區(qū)信息處理速度,經(jīng)過統(tǒng)計(jì)學(xué)分析可通過多平面重建和可視化或Excel顯示來觀察結(jié)果。
(3)功能路線三:獲得腦區(qū)神經(jīng)活動(dòng)強(qiáng)度→統(tǒng)計(jì)學(xué)分析→分析結(jié)果的顯示
此功能為新添加功能。使用預(yù)處理后的磁共振數(shù)據(jù)與腦區(qū)模板(Brodmann 腦區(qū)模板或AAL 腦區(qū)模板)獲得腦區(qū)神經(jīng)活動(dòng)強(qiáng)度,經(jīng)過統(tǒng)計(jì)學(xué)分析可通過多平面重建和可視化或Excel顯示來觀察結(jié)果。
除3條主要功能路線外,此軟件還添加了任務(wù)執(zhí)行時(shí)間顯示、操作錯(cuò)誤提示以及操作步驟解釋等功能,并解決了軟件閃退等不正?,F(xiàn)象。對任務(wù)執(zhí)行時(shí)間進(jìn)行運(yùn)算顯示;為方便操作者使用,在軟件的每個(gè)對話框中都添加了步驟說明,將光標(biāo)放在一些較為難理解的步驟上可顯示此步驟的解釋;軟件可自動(dòng)以執(zhí)行任務(wù)的名稱對已設(shè)置的保存路徑中的文件名進(jìn)行擴(kuò)展,數(shù)據(jù)運(yùn)行完成后系統(tǒng)會(huì)彈出提示框提示計(jì)算完成的數(shù)據(jù)所保存的位置以及為了解決英文版操作錯(cuò)誤時(shí)軟件閃退現(xiàn)象而修改了源代碼,使操作錯(cuò)誤后出現(xiàn)提示框提示錯(cuò)誤信息。
1.2.2 軟件的編程實(shí)現(xiàn)虛擬數(shù)字腦軟件中文版與英文版都是在VC++12.0 的開發(fā)環(huán)境下,利用C/C++編程語言開發(fā)。軟件開發(fā)步驟如下:
(1)建立界面
首先將軟件英文版本菜單項(xiàng)中文化,將原菜單項(xiàng)“VDB”改為“虛擬數(shù)字腦”。在“虛擬數(shù)字腦”菜單項(xiàng)中添加子項(xiàng)“節(jié)點(diǎn)和因果連接”、“構(gòu)建虛擬數(shù)字腦”,“獲得虛擬激活腦區(qū)”、“統(tǒng)計(jì)學(xué)分析”以及“統(tǒng)計(jì)學(xué)分析結(jié)果顯示”。隨后,為該菜單中的每一個(gè)子項(xiàng)添加消息映射函數(shù)。
在程序資源里添加與菜單子項(xiàng)相對應(yīng)的對話框,并在菜單子項(xiàng)的消息映射中添加創(chuàng)建和顯示該對話框的函數(shù)。如在程序資源里添加“構(gòu)建虛擬數(shù)字腦”對話框,并在菜單子項(xiàng)“構(gòu)建虛擬數(shù)字腦”的消息映射中添加創(chuàng)建和顯示該對話框的函數(shù)。
(2)計(jì)算功能
利用MFC DLL 向?qū)?chuàng)建動(dòng)態(tài)鏈接庫“fMRIDLL”,并在該動(dòng)態(tài)鏈接庫中添加成員函數(shù),分別實(shí)現(xiàn)計(jì)算腦區(qū)間因果連接,獲得腦區(qū)信息處理速度、腦區(qū)神經(jīng)活動(dòng)強(qiáng)度、回歸系數(shù)、單對象腦區(qū)激活結(jié)果、單組對象腦區(qū)激活結(jié)果、兩組對象相比較的腦區(qū)激活結(jié)果等功能。并在各對話框相應(yīng)控件的消息映射函數(shù)中分別調(diào)用這些成員函數(shù),完成相關(guān)功能。
(3)結(jié)果顯示功能
利用MFC DLL 向?qū)?chuàng)建動(dòng)態(tài)鏈接庫“3DDLL”,在該動(dòng)態(tài)鏈接庫中添加成員函數(shù)實(shí)現(xiàn)三維重建可視化、多平面重建可視化以及Excel 顯示的功能,并在“統(tǒng)計(jì)學(xué)分析結(jié)果顯示”對話框相應(yīng)控件的消息映射函數(shù)中調(diào)用,完成腦區(qū)間的因果連接、腦區(qū)信息處理速度、腦區(qū)神經(jīng)活動(dòng)強(qiáng)度、虛擬激活腦區(qū)等計(jì)算結(jié)果顯示功能。
(4)輔助功能
利用系統(tǒng)time 函數(shù)對任務(wù)執(zhí)行時(shí)間進(jìn)行運(yùn)算并顯示;在各對話框中添加步驟說明及對各步驟的解釋;修改代碼,增加操作錯(cuò)誤提示等。
虛擬數(shù)字腦軟件中文版開發(fā)完成后對其進(jìn)行性能與功能測試。在Windows 10 系統(tǒng)下,點(diǎn)擊虛擬數(shù)字腦軟件的可執(zhí)行應(yīng)用程序并運(yùn)行。
優(yōu)化前,虛擬數(shù)字腦軟件英文版操作對話框可查看文獻(xiàn)[6],圖3~圖7為優(yōu)化后的虛擬數(shù)字腦軟件中文版實(shí)現(xiàn)主要功能的5個(gè)對話框。在“節(jié)點(diǎn)與因果連接”對話框中使可用預(yù)處理數(shù)據(jù)與腦區(qū)模板獲得因果連接、腦區(qū)神經(jīng)活動(dòng)強(qiáng)度以及腦區(qū)信息處理速度;在“構(gòu)建虛擬數(shù)字腦”對話框中可利用構(gòu)建的因果連接網(wǎng)等構(gòu)建虛擬數(shù)字腦;在“獲得虛擬腦區(qū)激活”對話框中可根據(jù)需要使用不同模擬刺激信號對所構(gòu)建的虛擬數(shù)字腦的不同腦區(qū)進(jìn)行刺激,并獲得刺激結(jié)果;在“統(tǒng)計(jì)學(xué)分析”對話框中可用多種統(tǒng)計(jì)學(xué)檢驗(yàn)與多重比較校正方法對數(shù)據(jù)進(jìn)行分析,獲得腦區(qū)間因果連接、單對象腦區(qū)激活結(jié)果、單組對象腦區(qū)激活結(jié)果、兩組對象激活結(jié)果比較等分析結(jié)果;在“統(tǒng)計(jì)學(xué)分析結(jié)果顯示”對話框中可完成上述分析結(jié)果的顯示,包括多平面重建及可視化、三維重建及可視化和Excel 顯示。根據(jù)對話框中的步驟提示完成相應(yīng)設(shè)置,即可完成軟件的3個(gè)主要功能。
圖3 節(jié)點(diǎn)與因果連接對話框Figure 3 Dialog box of obtaining nodal topological properties and causal connectivity
圖4 構(gòu)建虛擬數(shù)字腦對話框Figure 4 Dialog box of constructing the virtual digital brain
圖5 虛擬數(shù)字腦激活對話框Figure 5 Dialog box of virtual digital brain activation
圖6 統(tǒng)計(jì)學(xué)分析對話框Figure 6 Dialog box of statistical analysis
圖7 統(tǒng)計(jì)學(xué)分析結(jié)果顯示對話框Figure 7 Dialog box of statistical analysis results display
(1)按照功能路線一(構(gòu)建因果連接網(wǎng)→構(gòu)建虛擬數(shù)字腦→激活虛擬數(shù)字腦→統(tǒng)計(jì)學(xué)分析→統(tǒng)計(jì)學(xué)分析結(jié)果顯示)可獲得因果連接網(wǎng)與腦區(qū)激活結(jié)果。本研究利用30例受試者(16例雙耳聾患者,14例正常聽力的志愿者)的功能磁共振數(shù)據(jù)對功能路線一進(jìn)行測試。圖8和圖9為AAL13(左側(cè)額下回三角部)同步輸出因果連接增強(qiáng)和減弱的3D左視和俯視結(jié)果(雙樣本t檢驗(yàn),P<0.05,PRT corrected,重復(fù)率:0.85,重復(fù)檢測次數(shù):5 000,每組中隨機(jī)選取的人數(shù):10),其中箭頭的方向表示因果連接的方向,紅色表示腦區(qū)間因果連接的增強(qiáng),藍(lán)色表示腦區(qū)間因果連接的減弱。
圖8 AAL 13增強(qiáng)的同步輸出因果連接三維可視化結(jié)果Figure 8 3D visualization results of the enhanced synchronous output causal connectivity in AAL 13
圖9 AAL 13減弱的同步輸出因果連接三維可視化結(jié)果Figure 9 3D visualization results of the weakened synchronous output causal connectivity in AAL 13
圖10 是將單任務(wù)刺激信號輸入到左、右側(cè)顳橫回時(shí)單任務(wù)單對象腦區(qū)激活的多平面重建和可視化結(jié)果。圖11 是將多任務(wù)刺激信號輸入到左、右側(cè)顳橫回和左、右側(cè)顳上回時(shí)多任務(wù)多對象腦區(qū)激活的多平面重建和可視化結(jié)果。其中,藍(lán)色部分對應(yīng)的腦區(qū)呈現(xiàn)負(fù)激活,黃色部分對應(yīng)的腦區(qū)呈現(xiàn)正激活,彩色尺度條顏色變化對應(yīng)腦區(qū)激活強(qiáng)度變化,由淺藍(lán)色漸變到黃色表示激活程度逐漸增強(qiáng)。
圖10 單任務(wù)單對象腦區(qū)激活的多平面重建的可視化結(jié)果Figure 10 Visualization results of multi-plane reconstruction for a single object brain region activation elicited by a single task
圖11 多任務(wù)多對象腦區(qū)激活的多平面重建的可視化結(jié)果Figure 11 Visualization results of multi-plane reconstruction for multi-object brain region activation elicited by multi-task
(2)按照功能路線二(獲得腦區(qū)信息處理速度→統(tǒng)計(jì)學(xué)分析→分析結(jié)果的顯示)可獲得腦區(qū)信息處理速度。本研究利用30例受試者(16例雙耳聾患者,14 例正常聽力的志愿者)的功能磁共振數(shù)據(jù)對功能路線二進(jìn)行測試。圖12 是腦區(qū)信息處理速度的Excel 結(jié)果部分展示(雙樣本t檢驗(yàn),P<0.05, PRT corrected, 重復(fù)率:0.5,重復(fù)檢測次數(shù):5 000,每組中隨機(jī)選取的人數(shù):10)。其中,負(fù)值表示耳聾組腦區(qū)信息處理速度小于正常聽力組的腦區(qū)信息處理速度,反之則相反。數(shù)值為0則表示兩組在該腦區(qū)的信息處理速度沒有明顯差別。
圖12 部分腦區(qū)信息處理速度的Excel結(jié)果Figure 12 Excel results of the information processing speed of some brain regions
(3)按照功能路線三(獲得腦區(qū)神經(jīng)活動(dòng)強(qiáng)度→統(tǒng)計(jì)學(xué)分析→分析結(jié)果的顯示)可獲得腦區(qū)神經(jīng)活動(dòng)強(qiáng)度。本研究利用30個(gè)受試者(16個(gè)雙耳聾患者,14個(gè)正常聽力的志愿者)的功能磁共振數(shù)據(jù)對功能路線三進(jìn)行測試。圖13是腦區(qū)神經(jīng)活動(dòng)強(qiáng)度的Excel結(jié)果部分展示(雙樣本t檢驗(yàn),P<0.05,PRT corrected,重復(fù)率:0.5,重復(fù)檢測次數(shù):5000,每組中隨機(jī)選取的人數(shù):10),其中,負(fù)值表示耳聾組腦區(qū)神經(jīng)活動(dòng)強(qiáng)度小于正常聽力組的腦區(qū)神經(jīng)活動(dòng)強(qiáng)度,反之則相反。數(shù)值為0則表示兩組在該腦區(qū)的神經(jīng)活動(dòng)強(qiáng)度沒有明顯差別。
圖13 部分腦區(qū)神經(jīng)活動(dòng)強(qiáng)度的Excel結(jié)果Figure 13 Excel results of neural activity intensity of some brain regions
(4)時(shí)間顯示功能。
圖14、15 為構(gòu)建因果連接與構(gòu)建虛擬數(shù)字腦時(shí)所需計(jì)算時(shí)間的顯示。此外,若操作錯(cuò)誤,軟件不會(huì)出現(xiàn)閃退等不正常現(xiàn)象,而是會(huì)出現(xiàn)錯(cuò)誤提示,關(guān)閉后可繼續(xù)操作。
圖14 構(gòu)建因果連接所需時(shí)間Figure 14 Time taken to obtain causal connectivity
圖15 構(gòu)建虛擬數(shù)字腦所需時(shí)間Figure 15 Time taken to construct the virtual digital brain
本研究介紹了基于對英文版虛擬數(shù)字腦軟件平臺(tái)的改進(jìn)與完善所開發(fā)的虛擬數(shù)字腦中文版軟件平臺(tái)。中文版軟件平臺(tái)是在英文版的基礎(chǔ)上首先將虛擬數(shù)字腦軟件的英文操作環(huán)境改為中文操作環(huán)境,其次將軟件原有功能操作步驟按照使用過程中的體驗(yàn)進(jìn)行重新排列,添加時(shí)間顯示、步驟解釋等輔助功能,減小了使用的復(fù)雜性與使用過程中錯(cuò)誤操作的可能性,并在原有功能的基礎(chǔ)上增加了獲得腦區(qū)神經(jīng)活動(dòng)強(qiáng)度和腦區(qū)信息處理速度的功能,最后優(yōu)化代碼,修復(fù)原有程序中的漏洞,完成虛擬數(shù)字腦軟件中文版的開發(fā)。
經(jīng)測試驗(yàn)證,虛擬數(shù)字腦軟件每項(xiàng)功能都能成功實(shí)現(xiàn),得到預(yù)期結(jié)果;且軟件在長時(shí)間運(yùn)行過程中穩(wěn)定無誤,呈現(xiàn)的結(jié)果準(zhǔn)確。本研究僅展示了虛擬數(shù)字腦軟件中文版的部分主要功能,其他輔助功能如十字定位線、腦區(qū)索引提示等并未展示。優(yōu)化后的軟件操作更加便捷,功能更加全面,能用于觀察腦區(qū)間的因果連接、腦區(qū)神經(jīng)活動(dòng)強(qiáng)度、腦區(qū)信息處理速度以及在虛擬信號刺激下,各腦區(qū)激活狀態(tài),揭示人腦工作機(jī)理,為類腦人工智能的研究提供一定的啟示,且該軟件操作簡單、運(yùn)行速度較快,不需要其他軟件支持,可為腦科學(xué)研究提供一個(gè)便捷的軟件輔助研究平臺(tái)。基于英文版虛擬數(shù)字腦已發(fā)表耳聾患者功能成像研究論文3 篇[13-15]。先前的文獻(xiàn)報(bào)道了利用靜息態(tài)功磁共振和多參數(shù)磁共振方法對耳聾患者的腦功能研究的結(jié)果[16-20]。然而,到目前為止,還沒有文獻(xiàn)報(bào)道關(guān)于耳聾患者腦區(qū)神經(jīng)活動(dòng)變化和信息處理速度變化的研究。因此,本軟件提供了可以進(jìn)行此項(xiàng)研究的工具。
本研究開發(fā)的虛擬數(shù)字腦中文版軟件包與歐洲開發(fā)的虛擬大腦軟件平臺(tái)[7-10]、英文版虛擬數(shù)字腦軟件平臺(tái)相比,步驟清晰,操作簡單,功能更加豐富,不需要任何軟件作支撐,運(yùn)行環(huán)境簡單。但目前此軟件包還存在許多問題,如系統(tǒng)通過當(dāng)前任務(wù)中前面圖像運(yùn)行時(shí)間對后面所剩余圖像的運(yùn)行時(shí)間進(jìn)行預(yù)測,由于執(zhí)行任務(wù)時(shí)所用圖像的個(gè)體差異,所以預(yù)測存在誤差;虛擬數(shù)字腦軟件程序還需優(yōu)化完善,以得到更精確的運(yùn)算結(jié)果與更廣泛的適用范圍等。且此軟件與英文版虛擬數(shù)字腦軟件平臺(tái)一樣,還沒有利用真實(shí)的基于任務(wù)的人腦功能磁共振數(shù)據(jù)進(jìn)行驗(yàn)證,需要在實(shí)際應(yīng)用中不斷進(jìn)行改進(jìn)和完善。如何設(shè)計(jì)功能磁共振任務(wù)范例對構(gòu)建的虛擬數(shù)字腦的有效性進(jìn)行驗(yàn)證,并通過模擬人腦的神經(jīng)活動(dòng)來完善虛擬數(shù)字腦是今后需要研究的課題。
本研究在VC++12.0 的開發(fā)環(huán)境下,利用C/C++編程語言針對英文版虛擬數(shù)字腦軟件平臺(tái)在使用過程中存在的問題進(jìn)行優(yōu)化完善,開發(fā)了虛擬數(shù)字腦中文版軟件,使軟件操作更便捷,功能更全面,能更好地適用于腦科學(xué)研究,并為類腦人工智能的研究提供一些啟示,符合當(dāng)下科技發(fā)展需求。