国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于遷移學(xué)習(xí)的腦部磁共振圖像的阿茲海默病分類的應(yīng)用研究

2024-11-05 00:00:00呂姝瑤
現(xiàn)代信息科技 2024年16期

摘 要:隨著社會(huì)人口老齡化問(wèn)題的加劇,阿茲海默病,越來(lái)越影響人們的生活質(zhì)量和家庭幸福,也造成了巨大的社會(huì)負(fù)擔(dān)。利用人工智能技術(shù)對(duì)AD進(jìn)行早期診斷有助于預(yù)防或減緩AD病程,減輕家庭和社會(huì)負(fù)擔(dān)。現(xiàn)有文獻(xiàn)表明,基于磁共振圖像的AI分類算法可用于AD早期診斷。針對(duì)基于磁共振圖像的AD分類問(wèn)題,設(shè)計(jì)實(shí)現(xiàn)了兩種分類遷移學(xué)習(xí)方法,分別是微調(diào)方法和時(shí)域視覺(jué)提示方法,并通過(guò)在公開(kāi)數(shù)據(jù)集上驗(yàn)證,證實(shí)這些方法的分類精度得到提升。

關(guān)鍵詞:阿茲海默病;磁共振圖像;醫(yī)學(xué)圖像分類;遷移學(xué)習(xí)

中圖分類號(hào):TP391.4 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):2096-4706(2024)16-0039-06

Application Research on Alzheimer's Disease Classification of Brain Magnetic Resonance Image Based on Transfer Learning

Abstract: As the aging of the social population intensifies, Alzheimer's disease (AD), is increasingly affecting people's life quality and family happiness, and has also caused a huge social burden. Using Artificial Intelligence technology to conduct the early diagnosis of AD can help prevent or slow down the course of AD and reduce the burden on families and society. Existing literature shows that AI classification algorithms based on magnetic resonance images can be used for early diagnosis of AD. Aiming at the AD classification problem based on magnetic resonance images, this paper designs and implements two classification Transfer Learning methods, namely fine-tuning method and time-domain visual prompting method. Through verification on public data sets, it is confirmed that the classification accuracy of these methods is improved.

Keywords: AD; magnetic resonance image; medical image classification; Transfer Learning

0 引 言

為了對(duì)AD(Alzheimer Disease)患者進(jìn)行準(zhǔn)確診斷,醫(yī)生會(huì)對(duì)患者進(jìn)行諸如計(jì)算機(jī)斷層掃描(CT)和磁共振成像(MRI)的腦部掃描以排除其他病因。CT和MRI都有助于識(shí)別腦瘤、中風(fēng)、阿茲海默病或其他腦部疾病。CT掃描使用X射線掃描大腦的圖像;核磁共振成像使用強(qiáng)磁場(chǎng)掃描,可以呈現(xiàn)大腦圖像的更多細(xì)節(jié)。阿茲海默病診斷所用的MRI圖像有T1加權(quán)、T2加權(quán)和液體衰減反轉(zhuǎn)恢復(fù)(FLAIR)圖像。目前已經(jīng)有許多醫(yī)學(xué)研究表明磁共振成像在診斷阿茲海默病方面具有優(yōu)越性。

與擁有大規(guī)模標(biāo)記的數(shù)據(jù)集(如ImageNet)的自然圖像分析相比,醫(yī)學(xué)圖像分類的一大挑戰(zhàn)是數(shù)據(jù)集樣本太少。標(biāo)記醫(yī)學(xué)圖像成本高、耗時(shí)長(zhǎng),是需要??漆t(yī)生、放射科醫(yī)生和其他專家共同參與的勞動(dòng)密集型工作。因此,不需要大規(guī)模數(shù)據(jù)集的遷移學(xué)習(xí)引起了醫(yī)學(xué)圖像分類研究者們?cè)絹?lái)越多的關(guān)注。醫(yī)療圖像分類領(lǐng)域中,許多研究人員已經(jīng)投身于使用遷移學(xué)習(xí)方法進(jìn)行各種機(jī)器學(xué)習(xí)任務(wù)的優(yōu)化[1]。

利用人工智能技術(shù)輔助AD的早期診斷對(duì)延緩AD的發(fā)展具有重要意義。結(jié)構(gòu)磁共振成像(sMRI)在計(jì)算機(jī)輔助AD診斷方面顯示出巨大的實(shí)用價(jià)值。在現(xiàn)實(shí)場(chǎng)景中,受來(lái)自不同來(lái)源或采集域的數(shù)據(jù)的影響,MRI數(shù)據(jù)通常會(huì)出現(xiàn)域偏移問(wèn)題。本文針對(duì)基于磁共振圖像的AD分類的域適應(yīng)問(wèn)題進(jìn)行研究,實(shí)現(xiàn)了基于微調(diào)和基于視覺(jué)提示的兩種分類領(lǐng)域適應(yīng),以處理具有域移位問(wèn)題的MRI數(shù)據(jù),并實(shí)現(xiàn)AD、輕度認(rèn)知障礙(MCI)和認(rèn)知正常(NC)的自動(dòng)輔助診斷。

1 遷移學(xué)習(xí)方法與領(lǐng)域適應(yīng)問(wèn)題

1.1 遷移學(xué)習(xí)介紹

遷移學(xué)習(xí)是通過(guò)從已經(jīng)學(xué)習(xí)過(guò)的相關(guān)任務(wù)中遷移知識(shí)來(lái)改進(jìn)新任務(wù)中的學(xué)習(xí)。雖然大多數(shù)機(jī)器學(xué)習(xí)算法都是為處理單個(gè)任務(wù)而設(shè)計(jì)的,但遷移學(xué)習(xí)的算法的開(kāi)發(fā)是機(jī)器學(xué)習(xí)界持續(xù)關(guān)注的話題[2]。

遷移學(xué)習(xí)的目標(biāo)是通過(guò)利用源任務(wù)中的知識(shí)來(lái)改進(jìn)目標(biāo)任務(wù)中的學(xué)習(xí)。有三種常見(jiàn)的措施可以通過(guò)遷移來(lái)改善學(xué)習(xí)性能:一是在進(jìn)行任何進(jìn)一步學(xué)習(xí)之前,與無(wú)遷移的性能相比,僅使用遷移學(xué)習(xí)方法才可實(shí)現(xiàn)的性能;二是與從頭開(kāi)始學(xué)習(xí)目標(biāo)任務(wù)的時(shí)間相比,在給定遷移知識(shí)的情況下完全學(xué)習(xí)目標(biāo)任務(wù)所需的時(shí)間;三是與沒(méi)有實(shí)現(xiàn)遷移方法的最終性能相比,目標(biāo)任務(wù)中可達(dá)到的最終性能水平[3]。

給定具有相應(yīng)源任務(wù)TS的源域DS,和具有相應(yīng)目標(biāo)任務(wù)TT的目標(biāo)域DT(其中DS≠DT,TS≠TT),遷移學(xué)習(xí)是根據(jù)DS和TS的相關(guān)信息對(duì)目標(biāo)預(yù)測(cè)函數(shù)ft(·)進(jìn)行優(yōu)化的過(guò)程。

1.2 領(lǐng)域適應(yīng)問(wèn)題

域由特征空間和邊緣概率分布P(X)組成,其中X={x1,…,xn}∈X。給定特定域D={X,P(X )},任務(wù)T由特征空間Y和目標(biāo)預(yù)測(cè)函數(shù)f組成,從概率的角度來(lái)看,目標(biāo)預(yù)測(cè)函數(shù)也可以被視為條件概率分布P(Y |X )。一般來(lái)說(shuō),我們可以通過(guò)有監(jiān)督的方式從標(biāo)記數(shù)據(jù){xi,yi}中學(xué)習(xí)P(Y |X ),其中xi∈X,yi∈Y。

假設(shè)我們有兩個(gè)域:具有足夠標(biāo)記數(shù)據(jù)的訓(xùn)練數(shù)據(jù)集是源域Ds={X sP(X )s},具有少量標(biāo)記數(shù)據(jù)或沒(méi)有標(biāo)記數(shù)據(jù)的測(cè)試數(shù)據(jù)集是目標(biāo)域域Ds={X sP(X )s}。每個(gè)域都與其任務(wù)關(guān)聯(lián):前者是T s={Y s,P(Y s|X s)s},后者是T s={Y s,P(Y s|X s)s}。類似地,P(Y s|X s)可以從源標(biāo)記數(shù)據(jù){,}中學(xué)習(xí),而P(Y t|X t)可以從標(biāo)記的目標(biāo)數(shù)據(jù){,}和未標(biāo)記的數(shù)據(jù){}中學(xué)習(xí)。

本文提出了適用于3D MRI圖像分類模型的領(lǐng)域適應(yīng)方法,以提高AD、MCI和NC的分類模型在不同數(shù)據(jù)源上的分類準(zhǔn)確率。將不同型號(hào)磁共振機(jī)器掃描所得到的磁共振圖像進(jìn)行統(tǒng)一的預(yù)處理,從源域訓(xùn)練出預(yù)訓(xùn)練模型。在不對(duì)預(yù)訓(xùn)練模型參數(shù)做任何改動(dòng)的前提下,通過(guò)視覺(jué)提示來(lái)提升源域預(yù)訓(xùn)練模型在目標(biāo)域上的分類準(zhǔn)確率,從而緩解3D MRI圖像分類的領(lǐng)域適應(yīng)問(wèn)題。本文方法結(jié)合殘差神經(jīng)網(wǎng)絡(luò)和微調(diào)方法產(chǎn)生3D MRI的分類預(yù)訓(xùn)練模型,實(shí)驗(yàn)表明使用視覺(jué)提示方法成功地提升了源域分類模型在目標(biāo)域上的分類準(zhǔn)確率,有效提高了3D MRI圖像分類的準(zhǔn)確率。

2 數(shù)據(jù)預(yù)處理與分類模型構(gòu)建

2.1 數(shù)據(jù)預(yù)處理

采用阿茲海默神經(jīng)影像計(jì)劃[4](The Alzheimer's Disease Neuroimaging Initiative, ADNI)數(shù)據(jù)集中的A、B兩個(gè)數(shù)據(jù)集。在此基礎(chǔ)上使用英國(guó)牛津大學(xué)腦功能磁共振成像中心軟件庫(kù)[5](FMRIB's Software Library, FSL)對(duì)數(shù)據(jù)進(jìn)行預(yù)處理。FLIRT[6]是FMRIB的線性圖像配準(zhǔn)工具,在預(yù)處理操作中,對(duì)于每一個(gè)MRI影像,使用FSL軟件中的FLIRT命令線性配準(zhǔn)到MNI-2 mm模板影像上,使相同的解剖結(jié)構(gòu)在相同的坐標(biāo)上。

配準(zhǔn)要求找到兩個(gè)體積腦圖像的最佳幾何對(duì)齊[7]。將這兩個(gè)圖像稱為配準(zhǔn)后的Y圖像和配準(zhǔn)前的X圖像。配準(zhǔn)的目標(biāo)是當(dāng)將配準(zhǔn)操作應(yīng)用于X圖像時(shí),最大化Y圖像和X圖像之間的“相似性”。要解決這個(gè)問(wèn)題,需要構(gòu)造一個(gè)量化兩個(gè)圖像之間的不相似性的成本函數(shù),然后找到最小成本的變換T *,其公式化表達(dá)為:

ST是變換空間,C(I1,I2)是成本函數(shù),T(X )表示圖像經(jīng)過(guò)變換后的結(jié)果。圖像配準(zhǔn)問(wèn)題可選擇許多不同的成本函數(shù)[8],我們的配準(zhǔn)中選擇歸一化相關(guān)函數(shù)CNC

選擇了成本函數(shù)后,只需要尋找能產(chǎn)生最小成本值的轉(zhuǎn)換T *即可。

實(shí)驗(yàn)中所使用的MRI腦圖像的數(shù)據(jù)處理前后對(duì)比結(jié)果如圖1所示,因?yàn)楸疚氖褂玫臄?shù)據(jù)集樣本較少,不同數(shù)據(jù)集中MRI腦圖像又存在組織結(jié)構(gòu)在體積空間中未對(duì)齊的情況,因此采用該線性配準(zhǔn)方法。

2.2 分類模型構(gòu)建

深度殘差網(wǎng)絡(luò)由多個(gè)殘差學(xué)習(xí)單元[9]堆疊而成。我們首先將輸入數(shù)據(jù)作為深度殘差網(wǎng)絡(luò)輸入層,數(shù)據(jù)依次經(jīng)過(guò)卷積層、非線性激活函數(shù)層和歸一化層[10],然后將處理的結(jié)果進(jìn)一步傳入多個(gè)殘差單元,再經(jīng)過(guò)歸一化層和多個(gè)全連接層最后得到輸出結(jié)果。

設(shè)計(jì)的殘差網(wǎng)絡(luò)在輸出通道數(shù)為64、步幅為2的卷積層后,接步幅為2的最大匯聚層,每個(gè)卷積層后增加了規(guī)范化層。使用4個(gè)由殘差塊組成的模塊,每個(gè)模塊使用若干個(gè)同樣輸出通道數(shù)的殘差塊。第一個(gè)模塊的通道數(shù)同輸入通道數(shù)一致。由于之前已經(jīng)使用了步幅為2的最大匯聚層,所以無(wú)須減小高和寬。之后的每個(gè)模塊在第一個(gè)殘差塊里將上一個(gè)模塊的通道數(shù)翻倍,并將高和寬減半。每個(gè)模塊有4個(gè)卷積層(不包括恒等映射的卷積層)。加上第一個(gè)卷積層和最后一個(gè)全連接層,共有10層。接著加入所有殘差塊,每個(gè)模塊使用2個(gè)殘差塊。最后在加入全局平均匯聚層,以及全連接層輸出。

2.3 名詞解釋與分類結(jié)果

2.3.1 名詞解釋

TP表示真陽(yáng)性,陽(yáng)性受試者的分類結(jié)果為陽(yáng)性。FP表示假陽(yáng)性,陰性受試者的分類結(jié)果為陽(yáng)性。TN表示真陰性,陰性受試者的分類結(jié)果為陰性。FN表示假陰性,陽(yáng)性受試者的分類結(jié)果為陰性。

敏感性(Sensitivity)表示正確識(shí)別陽(yáng)性受試者的能力:

特異性(Specificity)表示正確識(shí)別陰性受試者的能力:

ROC表示以敏感性為y軸,以(1-Specificity)為x軸繪制出的曲線。

AUC表示ROC曲線下面積,表示分類模型的性能。AUC值越高(越靠近1),表示模型越能區(qū)分出患者。

C(DS,DT)表示分類模型C在數(shù)據(jù)集DS上訓(xùn)練,在數(shù)據(jù)集DT上測(cè)試。

R10表示我們所設(shè)計(jì)的10層殘差神經(jīng)網(wǎng)絡(luò)。

+BS表示在R10的基礎(chǔ)上使用批采樣器處理方法,根據(jù)權(quán)重采樣,保證批次里邊每個(gè)類別都有相近的數(shù)量。

+AG表示在上一條的模型的基礎(chǔ)上加上數(shù)據(jù)增強(qiáng)處理。

+WG表示在上一條的模型的基礎(chǔ)上加上權(quán)重衰減處理,對(duì)網(wǎng)絡(luò)的矩陣權(quán)重做均方值,降低網(wǎng)絡(luò)的過(guò)擬合程度,提高網(wǎng)絡(luò)的泛化性。

2.3.2 分類結(jié)果

A數(shù)據(jù)集共613條數(shù)據(jù),其中NC/MCI/AD:為231:213:169。隨機(jī)劃分?jǐn)?shù)據(jù)集為訓(xùn)練集/驗(yàn)證集/測(cè)試集為392:98:123,保持?jǐn)?shù)據(jù)集類別比例不變,分類結(jié)果如表1所示。

B數(shù)據(jù)集共401條數(shù)據(jù),其中NC/MCI/AD為107:201:93。隨機(jī)劃分?jǐn)?shù)據(jù)集為訓(xùn)練集/驗(yàn)證集/測(cè)試集為256:64:81,保持?jǐn)?shù)據(jù)集類別比例不變,分類結(jié)果如表2所示。

C(A,A)和C(B,B)的分類結(jié)果效果不好,猜測(cè)是訓(xùn)練集數(shù)據(jù)量太小導(dǎo)致的。本次實(shí)驗(yàn)把兩個(gè)數(shù)據(jù)集數(shù)據(jù)合并后作為訓(xùn)練數(shù)據(jù)集,使用訓(xùn)練模型R10并且使用批采樣器和數(shù)據(jù)增強(qiáng)方法,然后分別將模型在A數(shù)據(jù)集和B數(shù)據(jù)集上進(jìn)行測(cè)試,分類結(jié)果如表3所示。

后續(xù)將設(shè)計(jì)實(shí)驗(yàn)方法使分類精度在此結(jié)果上提升。

3 方法設(shè)計(jì)與實(shí)現(xiàn)

圖2展示了本文所涉及的不同領(lǐng)域適應(yīng)方法的對(duì)比,可以看出微調(diào)方法對(duì)預(yù)訓(xùn)練模型參數(shù)做出權(quán)重優(yōu)化以使其適應(yīng)不同數(shù)據(jù)集任務(wù);視覺(jué)提示方法則既不改變模型參數(shù),也不加入新的層,而是通過(guò)給輸入加一個(gè)視覺(jué)提示的方法來(lái)使模型適應(yīng)新的數(shù)據(jù)集任務(wù)。

下文中將分別介紹微調(diào)方法和時(shí)域視覺(jué)提示方法的設(shè)計(jì)與實(shí)現(xiàn),并對(duì)比分析不同方法的結(jié)果。

3.1 微調(diào)方法

在機(jī)器學(xué)習(xí)中,微調(diào)是一種遷移學(xué)習(xí)的方法,即在新的數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練模型的權(quán)重優(yōu)化[11]。微調(diào)可以在整個(gè)神經(jīng)網(wǎng)絡(luò)上或者只在其所有層的子集上進(jìn)行。在這種情況下,沒(méi)有被微調(diào)的層被"凍結(jié)"(即在反向傳播步驟中不更新)。

3.1.1 設(shè)計(jì)與實(shí)現(xiàn)

對(duì)于某些架構(gòu),如卷積神經(jīng)網(wǎng)絡(luò),通常保持早期的層(最接近輸入層的層)被凍結(jié)[12],因?yàn)樗鼈儾蹲降氖禽^低級(jí)別的特征,而后期的層往往能分辨出與模型訓(xùn)練的任務(wù)更相關(guān)的高級(jí)特征。

將微調(diào)方法用于預(yù)訓(xùn)練的分類網(wǎng)絡(luò),選擇凍結(jié)卷積層,對(duì)全連接層進(jìn)行重新訓(xùn)練。

選擇A數(shù)據(jù)集分類中最優(yōu)秀的模型CA并且凍結(jié)它的卷積層模型參數(shù),重新建立全連接層,并將微調(diào)后的模型在B數(shù)據(jù)集上測(cè)試;同理,選擇B數(shù)據(jù)集分類中最優(yōu)秀的模型CB并且凍結(jié)它的卷積層模型參數(shù),重新建立全連接層,并將微調(diào)后的模型在A數(shù)據(jù)集上測(cè)試。

實(shí)驗(yàn)中微調(diào)的具體操作過(guò)程如下:

1)采用預(yù)先用A數(shù)據(jù)集訓(xùn)練的CA深度殘差神經(jīng)網(wǎng)絡(luò)和預(yù)先用B數(shù)據(jù)集訓(xùn)練的CB深度殘差神經(jīng)網(wǎng)絡(luò)。

2)加載預(yù)訓(xùn)練網(wǎng)絡(luò),從網(wǎng)絡(luò)中刪除完全連接層頭。

3)將新初始化的完全連接層頭放置在分類網(wǎng)絡(luò)的頭部。

4)凍結(jié)分類網(wǎng)絡(luò)骨干中各卷積層的權(quán)重。

5)使用預(yù)先訓(xùn)練的卷積層權(quán)重和新初始化的全連接層在新的數(shù)據(jù)集上重新訓(xùn)練模型,評(píng)估其分類性能。

3.1.2 實(shí)驗(yàn)結(jié)果

利用B數(shù)據(jù)集對(duì)CA預(yù)訓(xùn)練模型的全連接層進(jìn)行訓(xùn)練并與無(wú)微調(diào)操作的訓(xùn)練結(jié)果進(jìn)行對(duì)比,結(jié)果如表4所示。

由于B數(shù)據(jù)集樣本量太小,凍結(jié)預(yù)訓(xùn)練模型卷積層參數(shù)而用B數(shù)據(jù)訓(xùn)練全連接層的微調(diào)方法效果并不好。

利用A數(shù)據(jù)集對(duì)CB預(yù)訓(xùn)練模型的全連接層進(jìn)行訓(xùn)練并與無(wú)微調(diào)操作的訓(xùn)練結(jié)果進(jìn)行對(duì)比,結(jié)果如表5所示。

由于A數(shù)據(jù)集樣本量比B略大,凍結(jié)B的預(yù)訓(xùn)練模型卷積層參數(shù)而用A數(shù)據(jù)訓(xùn)練全連接層的微調(diào)方法效果相比之前有所提升。

3.2 時(shí)域視覺(jué)提示方法

提示學(xué)習(xí)首先在NLP中被引入[13],提示意味著設(shè)計(jì)一個(gè)模板來(lái)重新制定下游數(shù)據(jù)集,這樣預(yù)訓(xùn)練的凍結(jié)模型就可以直接應(yīng)用于新任務(wù),而無(wú)須更新參數(shù)。通過(guò)手動(dòng)設(shè)計(jì)合適的提示,可以提高下游任務(wù)的性能。這一思想已經(jīng)擴(kuò)展到與視覺(jué)語(yǔ)言模型相結(jié)合的視覺(jué)任務(wù)中。

目標(biāo)是通過(guò)只修改輸入圖像的像素,使預(yù)訓(xùn)練的模型適應(yīng)其他數(shù)據(jù)集的分類任務(wù)。我們89b4003ad60016321b0e4b9d2b1c0f6f427d8c18b1cc09e7055b1ea019c63e21嘗試給每個(gè)任務(wù)學(xué)習(xí)一個(gè)固定的提示。給定凍結(jié)的預(yù)訓(xùn)練模型F和下游任務(wù)數(shù)據(jù)集D=(x1,y1),…,(xm,ym),我們的目標(biāo)是學(xué)習(xí)由參數(shù)化的視覺(jué)提示。提示被添加到輸入圖像以形成提示圖像x+vφ。在訓(xùn)練過(guò)程中,模型使正確標(biāo)簽y的可能性最大:

maxPθ;φ(y|x+vφ)

更新僅應(yīng)用于提示參數(shù)φ,并且模型參數(shù)θ保持凍結(jié)。在評(píng)估過(guò)程中,我們將優(yōu)化的提示應(yīng)用于所有測(cè)試圖像,然后通過(guò)凍結(jié)的模型F對(duì)其進(jìn)行處理。

3.2.1 設(shè)計(jì)與實(shí)現(xiàn)

圖像大小為(91,109,91),如圖3所示,時(shí)域下的提示設(shè)計(jì)為在圖像外框部體素賦隨機(jī)值,輸入預(yù)訓(xùn)練模型并對(duì)外框隨機(jī)數(shù)值進(jìn)行優(yōu)化。

接下來(lái)的目標(biāo)是通過(guò)使用目標(biāo)數(shù)據(jù)集Dt和凍結(jié)的預(yù)訓(xùn)練的分類模型CM來(lái)訓(xùn)練可學(xué)習(xí)的視覺(jué)提示,稱為vr。通過(guò)這種方式,我們可以獲得目標(biāo)數(shù)據(jù)集的優(yōu)化時(shí)域視覺(jué)提示。

實(shí)驗(yàn)中使用的視覺(jué)模板是外圈固定位置體素的隨機(jī)數(shù)值,通過(guò)探索各種提示比例p,與其他設(shè)計(jì)選擇相比,p=0.3的補(bǔ)丁實(shí)現(xiàn)了最佳性能,我們?cè)诤罄m(xù)的實(shí)驗(yàn)中都把它作為默認(rèn)值。

創(chuàng)建大小為(91,109,91)的隨機(jī)int32數(shù)值圖像并將其中心部分(14:77,16:93,14:77)賦值為0,即只保留外圈隨機(jī)值。將該圖像作為視覺(jué)提示和原始圖像一起在神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化訓(xùn)練,并得到最終的視覺(jué)提示。

3.2.2 實(shí)驗(yàn)結(jié)果

利用A數(shù)據(jù)集在凍結(jié)的預(yù)訓(xùn)練模型CA上進(jìn)行訓(xùn)練并得到最優(yōu)視覺(jué)提示,將該提示與B數(shù)據(jù)集結(jié)合并在凍結(jié)的預(yù)訓(xùn)練模型CA上驗(yàn)證其分類結(jié)果,結(jié)果如表6所示。

利用B數(shù)據(jù)集在凍結(jié)的預(yù)訓(xùn)練模型CB上進(jìn)行訓(xùn)練并得到最優(yōu)視覺(jué)提示,將該視覺(jué)提示與A數(shù)據(jù)集結(jié)合并在凍結(jié)的預(yù)訓(xùn)練模型CB上驗(yàn)證其分類結(jié)果,結(jié)果如表7所示。

根據(jù)結(jié)果可看出,時(shí)域下視覺(jué)提示方法對(duì)緩解領(lǐng)域適應(yīng)問(wèn)題起到一定作用,當(dāng)訓(xùn)練集樣本較大時(shí),模型分類準(zhǔn)確率有所提升;當(dāng)訓(xùn)練集樣本較小時(shí),模型分類性能不如微調(diào)方法。

4 結(jié) 論

針對(duì)基于磁共振圖像的阿茲海默病分類的分類問(wèn)題進(jìn)行研究,利用殘差神經(jīng)網(wǎng)絡(luò)架構(gòu),搭建阿茲海默病磁共振圖像分類模型,實(shí)現(xiàn)了基于微調(diào)和基于視覺(jué)提示的遷移學(xué)習(xí)方法,有效提高預(yù)訓(xùn)練的阿茲海默病分類模型在其他數(shù)據(jù)源磁共振腦圖像上的阿茲海默病分類準(zhǔn)確率。

參考文獻(xiàn):

[1] RAGHU M,ZHANG C,KLEINBERG J,et al. Transfusion: Understanding Transfer Learning for Medical Imaging [C]//Advances in Neural Information Processing Systems 32 (NeurIPS 2019).Vancouver:NIPS,2019:1-11.

[2] WEISS K,KHOSHGOFTAAR T M,WANG D D. A Survey of Transfer Learning [J].Journal of Big data,2016,3(1):1-40.

[3] TORREY L,SHAVLIK J. Transfer Learning [M]//Handbook of Research on Machine Learning Applications and Trends:Algorithms,Methods,and Techniques.IGI global,2010:242-264.

[4] WEINER M W,VEITCH D P,AISEN P S,et al. The Alzheimer's Disease Neuroimaging Initiative 3: Continued Innovation for Clinical Trial Improvement [J].Alzheimer's & Dementia,2017,13(5):561-571.

[5] JENKINSON M,BECKMANN C F,Behrens T E J,et al. FSL [J].Neuroimage,2012,62(2):782-790.

[6] WOOLRICH M W,JBABDI S,Patenaude B,et al. Bayesian Analysis of Neuroimaging Data in FSL [J].Neuroimage,2009,45(1):S173-S186.

[7] SMITH S M,JENKINSON M,WOOLRICH M W,et al. Advances in Functional and Structural MR Image Analysis and Implementation as FSL [J].Neuroimage,2004,23:208-219.

[8] JENKINSON M,BANNISTER P,BRADY M,et al. Improved Optimization for the Robust and Accurate Linear Registration and Motion Correction of Brain Images [J].Neuroimage,2002,17(2):825-841.

[9] AV?AR E,SAL?IN K. Detection and Classification of Brain Tumours from MRI Images Using Faster R-CNN [J].Tehni?ki Glasnik,2019,13(4):337-342.jHFWpY4wAqWXIDSNjlFtQBTUgHRhLkZdWdJB7QpfqKI=

[10] SANTURKAR S,TSIPRAS D,ILYAS A,et al. How does Batch Normalization Help Optimization? [C]//Advances in Neural Information Processing Systems.NIPS,2018:1-11.

[11] TAJBAKHSH N,SHIN J Y,GURUDU S R,et al. Convolutional Neural Networks for Medical Image Analysis: Full Training or Fine Tuning? [J].IEEE Transactions on Medical Imaging,2016,35(5):1299-1312.

[12] ANDERSON G W,CASTANO D J. Measures of Fine Tuning [J].Physics Letters B,1995,347(3-4):300-308.

[13] LIU P,YUAN W,F(xiàn)U J,et al. Pre-train, Prompt, and Predict: A Systematic Survey of Prompting Methods in Natural Language Processing [J].ACM Computing Surveys,2023,55(9):1-35.

金溪县| 图片| 北流市| 新营市| 闸北区| 衢州市| 景德镇市| 德江县| 大城县| 阿巴嘎旗| 延庆县| 双流县| 高碑店市| 沙坪坝区| 盐池县| 兴化市| 鹿邑县| 威远县| 韩城市| 贡山| 长葛市| 康定县| 柳州市| 长宁县| 元谋县| 防城港市| 佛山市| 福鼎市| 乾安县| 蓝田县| 洛阳市| 阿克| 衡阳市| 米易县| 正安县| 德惠市| 吴桥县| 兰考县| 陆川县| 康乐县| 金昌市|