王紅霞，董沖沖，陳 亮

(沈陽(yáng)理工大學(xué) a.信息科學(xué)與工程學(xué)院；b.自動(dòng)化與電氣工程學(xué)院,沈陽(yáng) 110159)

卷積神經(jīng)網(wǎng)絡(luò)在藥品冷鏈監(jiān)控系統(tǒng)中的應(yīng)用

王紅霞a，董沖沖b，陳 亮b

(沈陽(yáng)理工大學(xué) a.信息科學(xué)與工程學(xué)院；b.自動(dòng)化與電氣工程學(xué)院,沈陽(yáng) 110159)

為了低溫藥品在倉(cāng)儲(chǔ)、運(yùn)輸?shù)人嗅t(yī)藥冷鏈環(huán)節(jié)中，能夠保證藥品的療效，即針對(duì)藥品的環(huán)境敏感性強(qiáng)、保存期限短、追溯需求大等問(wèn)題，基于卷積神經(jīng)網(wǎng)絡(luò)算法，設(shè)計(jì)了藥品冷鏈監(jiān)控系統(tǒng)。通過(guò)不斷改變卷積神經(jīng)網(wǎng)絡(luò)中的卷積核和抽取比例來(lái)得出最適合本系統(tǒng)的網(wǎng)絡(luò)參數(shù)，從而能夠更加準(zhǔn)確地判斷出藥品庫(kù)房中的溫濕度數(shù)據(jù)是否存在人為干擾日常記錄及故障現(xiàn)象。實(shí)驗(yàn)結(jié)果表明：選取的輸入數(shù)據(jù)為2×160，第一層的卷積核為2×17，抽取比例為1∶3；第二層選取的卷積核為1×11，抽取比例為1∶2，這時(shí)得出的錯(cuò)誤率最低為1.2%。

藥品冷鏈監(jiān)控系統(tǒng)；卷積神經(jīng)網(wǎng)絡(luò)；卷積核；抽取比例；人為干擾日常記錄

在醫(yī)藥產(chǎn)品中，人們?cè)絹?lái)越關(guān)注冷藏藥品的安全，它直接關(guān)系著民生和社會(huì)穩(wěn)定[1]。疫苗、血液、生物藥劑等冷鏈藥品市場(chǎng)不斷擴(kuò)大，對(duì)藥品冷鏈的要求也逐步提高，藥品冷鏈質(zhì)量管理面臨著重大的機(jī)遇和挑戰(zhàn)[2]。然而由于藥品庫(kù)房(冷庫(kù)、陰涼庫(kù)、常溫庫(kù)、冷藏車(chē)、保溫箱…)種類(lèi)較多，當(dāng)用戶進(jìn)入藥品庫(kù)房現(xiàn)場(chǎng)查看溫濕度數(shù)據(jù)時(shí)，需要把每個(gè)庫(kù)房都檢查一次，這樣不僅浪費(fèi)了大量的時(shí)間，而且管理水平較低，效果也不是很明顯，由此可見(jiàn)人為操作不易達(dá)到隨時(shí)隨地監(jiān)控的目的。在此情形下發(fā)展起來(lái)的藥品冷鏈監(jiān)控系統(tǒng)成為人們熱點(diǎn)關(guān)注的應(yīng)用技術(shù)之一，它不僅節(jié)省了時(shí)間，效率變得更高，而且適應(yīng)性更強(qiáng)，以方便、直觀、信息內(nèi)容全面而被廣泛應(yīng)用于各種藥品庫(kù)房當(dāng)中。

近年來(lái),卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network)是廣泛應(yīng)用的一種高效識(shí)別方法,已經(jīng)成為許多科學(xué)領(lǐng)域的研究熱點(diǎn)之一,尤其是在二維圖像處理、機(jī)器視覺(jué)和模式識(shí)別中[3-4]。卷積神經(jīng)網(wǎng)絡(luò)是計(jì)算機(jī)深度學(xué)習(xí)的一種算法，是一種前饋神經(jīng)網(wǎng)絡(luò)。CNN包括比權(quán)重更多的連接，這時(shí)結(jié)構(gòu)本身就類(lèi)似于實(shí)現(xiàn)了一種形式的正則化[5]。另外因?yàn)镃NN本身結(jié)構(gòu)的復(fù)雜關(guān)系，還有某種程度上的平移不變性。在輸入過(guò)程中，這種特別的CNN以數(shù)據(jù)驅(qū)動(dòng)的形式通過(guò)自動(dòng)學(xué)習(xí)過(guò)濾器的方法來(lái)提取圖像特征[6]。本文采用傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包括輸入層、卷積層、子采樣層、全連接層、輸出層[7]，在溫濕度數(shù)據(jù)適度預(yù)處理?xiàng)l件下，通過(guò)不斷訓(xùn)練卷積核和抽取比例使卷積神經(jīng)網(wǎng)絡(luò)能夠更加有效地提取特征，獲得更好的識(shí)別效果。

1 藥品庫(kù)房的溫度和濕度數(shù)據(jù)預(yù)處理

常見(jiàn)的5種藥品庫(kù)房的溫度和濕度的數(shù)據(jù)標(biāo)準(zhǔn)范圍如表1所示。

表1 溫濕度標(biāo)準(zhǔn)數(shù)據(jù)

在某段時(shí)間內(nèi)采集到的藥品常溫庫(kù)的溫濕度數(shù)據(jù)如表2所示，其中T和H表示的是溫度和濕度。

表2 溫濕度數(shù)據(jù)

以藥品常溫庫(kù)庫(kù)房為例，在現(xiàn)場(chǎng)每2min采集一次溫濕度數(shù)據(jù)，然后選取某一段時(shí)間的溫度和濕度數(shù)據(jù)作為輸入數(shù)據(jù)。標(biāo)準(zhǔn)輸出結(jié)果(故障診斷情況)如表3所示。正常數(shù)據(jù)指在藥品庫(kù)房里測(cè)到的無(wú)任何改動(dòng)的原始數(shù)據(jù)；人為干擾數(shù)據(jù)指藥品庫(kù)房?jī)?nèi)的溫濕度在不達(dá)標(biāo)的情況下，庫(kù)房的管理者在測(cè)量溫濕度表的附近采取一些能夠調(diào)整數(shù)據(jù)的措施，來(lái)使這些數(shù)據(jù)達(dá)標(biāo)，這時(shí)測(cè)到的數(shù)據(jù)為人為干擾數(shù)據(jù)。

表3 標(biāo)準(zhǔn)輸出結(jié)果

2 卷積神經(jīng)網(wǎng)絡(luò)的基本概念

卷積神經(jīng)網(wǎng)絡(luò)是一個(gè)多層的神經(jīng)網(wǎng)絡(luò)，每層由多個(gè)二維平面組成，每個(gè)平面由多個(gè)獨(dú)立神經(jīng)元組成[8]。卷積神經(jīng)網(wǎng)絡(luò)的特征檢測(cè)層通過(guò)訓(xùn)練數(shù)據(jù)來(lái)進(jìn)行學(xué)習(xí)，避免了顯式的特征提取，是隱式地從訓(xùn)練數(shù)據(jù)中進(jìn)行學(xué)習(xí)特征，且由于同一特征映射面上的神經(jīng)元權(quán)值相同，所以網(wǎng)絡(luò)可以并行學(xué)習(xí)[9]。

將經(jīng)過(guò)預(yù)處理的大量的藥品庫(kù)房的溫濕度數(shù)據(jù)輸入卷積神經(jīng)網(wǎng)絡(luò)中，采用與LeNet-5[10]結(jié)構(gòu)類(lèi)似的網(wǎng)絡(luò),通過(guò)對(duì)卷積層和子采樣層的優(yōu)化，診斷出人為干擾日常記錄狀況。對(duì)應(yīng)特征的提取與分類(lèi)的模型[11]，如圖1所示。

圖1 卷積神經(jīng)網(wǎng)絡(luò)模型

卷積神經(jīng)網(wǎng)絡(luò)有許多種網(wǎng)絡(luò)結(jié)構(gòu)，藥品冷鏈監(jiān)控系統(tǒng)用到的卷積神經(jīng)網(wǎng)絡(luò)的卷積過(guò)程如圖2所示，其主要由輸入層、卷積層、子采樣層、全連接層、輸出層組成。

圖2 CNN的卷積過(guò)程

2.1 卷積層

在一個(gè)卷積層中，前層的特征映射數(shù)據(jù)是先進(jìn)行卷積核運(yùn)算，然后再放入一個(gè)激活函數(shù)來(lái)得到特征映射數(shù)據(jù)作為輸出，每個(gè)輸出數(shù)據(jù)由許多個(gè)數(shù)據(jù)的卷積組合而成，如式(1)所示。

(1)

2.2 子采樣層

一個(gè)子采樣層可以生成輸入數(shù)據(jù)的下采樣版本。如圖2所示，在第一次卷積(C1層)有M個(gè)特征數(shù)據(jù)輸入，那么在第一次采樣(S1層)就有M個(gè)特征數(shù)據(jù)輸出；在第二次卷積(C2層)有N個(gè)特征數(shù)據(jù)輸入，那么在第二次采樣(S2層)就有N個(gè)特征數(shù)據(jù)輸出。M和N可以相等，子采樣層的公式為

(2)

式中down(·)為一個(gè)子采樣函數(shù)。通常這個(gè)函數(shù)會(huì)在第一個(gè)子采樣層(C1層到S1層之間的子采樣層)輸入數(shù)據(jù)中每個(gè)不同的1×m的塊上執(zhí)行加操作，這樣這個(gè)輸出數(shù)據(jù)在時(shí)間維度上就達(dá)到原來(lái)的1/m；這個(gè)函數(shù)會(huì)在第二個(gè)子采樣層(C2層到S2層之間的子采樣層)輸入數(shù)據(jù)中每個(gè)不同的1×n的塊上執(zhí)行操作，這時(shí)這個(gè)輸出數(shù)據(jù)在時(shí)間維度上就是原來(lái)的1/n。每個(gè)輸出數(shù)據(jù)都有自己相對(duì)應(yīng)的乘性偏置參數(shù)β和一個(gè)加性偏置參數(shù)b。第一次卷積完之后得到的數(shù)據(jù)，在經(jīng)過(guò)C1層到S1層之間的子采樣層時(shí)，抽取數(shù)據(jù)的比例為1∶m，這個(gè)比例表明在每m個(gè)數(shù)據(jù)當(dāng)中選取最大的一個(gè)數(shù)據(jù)，作為子采樣層的輸出，經(jīng)過(guò)該層后壓縮了時(shí)間維度上的數(shù)據(jù)。在第二次卷積完之后，經(jīng)過(guò)C2層到S2層之間的二次子采樣時(shí)，抽取的比例為1∶n，此時(shí)這個(gè)比例表明在每n個(gè)數(shù)據(jù)當(dāng)中選取最大的一個(gè)數(shù)據(jù)，m和n可以相等，然后一直循環(huán)下去，最后輸出訓(xùn)練的結(jié)果。

3 網(wǎng)絡(luò)參數(shù)選取

3.1 損失函數(shù)

經(jīng)過(guò)數(shù)據(jù)預(yù)處理和權(quán)重初始化之后，需要有一個(gè)評(píng)估準(zhǔn)則去評(píng)估預(yù)測(cè)值和真實(shí)結(jié)果之間的吻合度，也就是損失函數(shù)。實(shí)際上是計(jì)算出了每個(gè)樣本上的Loss,再求平均之后的一個(gè)形式，如式(3)所示。

(3)

式中N是訓(xùn)練數(shù)據(jù)的個(gè)數(shù)。由于系統(tǒng)中的數(shù)據(jù)集中每個(gè)樣本都有一一對(duì)應(yīng)的標(biāo)簽，所以選擇的損失函數(shù)為Softmax分類(lèi)器中的互熵?fù)p失，如式(4)所示。

(4)

式中f表示激活函數(shù)。

3.2 網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)

卷積層當(dāng)中的卷積核和子采樣層中的抽取比例的選取決定著訓(xùn)練溫濕度數(shù)據(jù)結(jié)果的錯(cuò)誤率。針對(duì)三種不同大小的樣本，分別選取不同的卷積核和抽取比例，訓(xùn)練網(wǎng)絡(luò)并計(jì)算輸出結(jié)果的錯(cuò)誤率。每種溫濕度數(shù)據(jù)樣本包含人為干擾數(shù)據(jù)樣本和正常數(shù)據(jù)樣本各1000個(gè)，從中任意選取1400個(gè)樣本作為訓(xùn)練集，再?gòu)倪@1400個(gè)樣本當(dāng)中任意選取400個(gè)樣本作為驗(yàn)證集，剩下的600個(gè)樣本作為測(cè)試集。

由于在現(xiàn)場(chǎng)是2min記錄一次數(shù)據(jù)，所以一天24h記錄720個(gè)數(shù)據(jù)，圖3為某藥品常溫庫(kù)房某一整天的人為干擾的溫濕度走勢(shì)圖，1代表濕度，變化的范圍為50～70，2代表溫度，變化的范圍為10～20。

圖3 24h的溫濕度走勢(shì)圖

方案一：保存藥品庫(kù)房的溫濕度會(huì)隨著外界環(huán)境的溫濕度變化而變化，所以人為干擾有可能發(fā)生在全天或在某個(gè)時(shí)間段內(nèi)，并且為了把開(kāi)門(mén)取藥這一時(shí)間段的微小擾動(dòng)和一些正常的擾動(dòng)及發(fā)生故障的擾動(dòng)囊括進(jìn)來(lái)，選取一個(gè)樣本集為2×40，每個(gè)樣本里有溫度和濕度數(shù)據(jù)各40個(gè)。選取不同的卷積核和抽取比例訓(xùn)練的錯(cuò)誤率如表4所示。錯(cuò)誤率的公式為

(5)

式中FP(False positives)指被錯(cuò)誤地劃分為正例的個(gè)數(shù)，即實(shí)際為負(fù)例但被分類(lèi)器劃分為正例的實(shí)例數(shù)；FN(False negatives)指被錯(cuò)誤地劃分為負(fù)例的個(gè)數(shù)，即實(shí)際為正例但被分類(lèi)器劃分為負(fù)例的實(shí)例數(shù)；P表示所有正例的個(gè)數(shù)；N表示所有負(fù)例的個(gè)數(shù)。正確率的公式為

accuracy=1-errorrate

(6)

表4 方案一卷積核和抽取比例的選取

由表4得出：在方案一里，C1層選取的卷積核為2×5，S1層選取的抽取比例為1∶3；C2層選取的卷積核為1×3，S2層選取的抽取比例為1∶2，這時(shí)得出的錯(cuò)誤率最低為3.3%。

方案二：選取一個(gè)樣本集為2×160，每個(gè)樣本里有溫度和濕度數(shù)據(jù)各160個(gè)。為了能夠更加清楚地表示出一天不同的時(shí)間段所對(duì)應(yīng)的溫濕度的變化情況，這個(gè)樣本集主要在早上、中午和晚上這三個(gè)時(shí)間段內(nèi)選取。選取不同的卷積核和抽取比例訓(xùn)練的錯(cuò)誤率如表5所示。

表5 方案二卷積核和抽取比例的選取

由表5得出：在方案二里，C1層選取的卷積核為2×17，S1層選取的抽取比例為1∶3；C2層選取的卷積核為1×11，S2層選取的抽取比例為1∶2，這時(shí)得出的錯(cuò)誤率最低為1.2%。

方案三：考慮到每天的溫濕度都在變化，選取一個(gè)樣本集為2×720，每個(gè)樣本里有溫度和濕度數(shù)據(jù)各720個(gè)，這樣既表明了白天的變化也了解了晚上的情況。選取不同的卷積核和抽取比例訓(xùn)練的錯(cuò)誤率如表6所示。

表6 方案三卷積核和抽取比例的選取

由表6得出：在方案三里，C1層選取的卷積核為2×79，S1層選取的抽取比例為1∶3；C2層選取的卷積核為1×55，S2層選取的抽取比例為1∶2，這時(shí)得出的錯(cuò)誤率最低為4.3%。

通過(guò)比較以上三個(gè)方案的結(jié)果得出，方案二的結(jié)果比較理想。由圖3可以得出24h的溫濕度變化情況，其中每160個(gè)數(shù)據(jù)既能包含不同階段的變化情況，又能包括正常的擾動(dòng)情況和發(fā)生故障的情況。考慮到藥品庫(kù)房的溫濕度數(shù)據(jù)樣本采集不易，選取一個(gè)樣本集為2×160。方案二不僅在采集樣本上節(jié)約了時(shí)間，而且既能包括方案一所涉及到的問(wèn)題又能包括方案三所考慮的問(wèn)題，所以選用這一方案用來(lái)測(cè)試某一時(shí)間段內(nèi)的數(shù)據(jù)是否存在人為干擾較為準(zhǔn)確。如果測(cè)試某一天或連續(xù)幾天時(shí)，這時(shí)方案三比較簡(jiǎn)捷，但方案三的準(zhǔn)確率不是很高。另外樣本的數(shù)據(jù)量比較大；采集數(shù)據(jù)花費(fèi)的時(shí)間比較多；樣本不易獲取。因此本系統(tǒng)選擇方案二中所設(shè)計(jì)的參數(shù)為C1層選取的卷積核2×17，S1層選取的抽取比例1∶3；C2層選取的卷積核1×11，S2層選取的抽取比例1∶2。本方案的錯(cuò)誤率不是很理想，對(duì)實(shí)驗(yàn)的條件和方法還有待提高。C1(卷積)層的訓(xùn)練結(jié)果如圖4所示，x軸表示卷積核內(nèi)數(shù)值變化的范圍，y軸表示訓(xùn)練的次數(shù)，z軸表示經(jīng)過(guò)訓(xùn)練之后卷積核內(nèi)某一數(shù)值的個(gè)數(shù)。

圖4 C1層的卷積結(jié)果

關(guān)于損失函數(shù)(吻合度)的訓(xùn)練結(jié)果如圖5所示，x軸代表訓(xùn)練的次數(shù)，y軸代表loss的值，值越小表示吻合度越高，從而錯(cuò)誤率越低,網(wǎng)絡(luò)的識(shí)別效果就越好。

圖5 損失函數(shù)的訓(xùn)練結(jié)果

4 結(jié)論

本文設(shè)計(jì)的藥品冷鏈監(jiān)控系統(tǒng)主要是通過(guò)卷積神經(jīng)網(wǎng)絡(luò)算法辨別出藥品庫(kù)房中的溫濕度數(shù)據(jù)是否存在人為干擾現(xiàn)象及故障情況，從而保證藥品庫(kù)房中的溫濕度能夠達(dá)到保存藥品的指標(biāo)。通過(guò)以上三個(gè)方案得出，方案二當(dāng)中的卷積核和抽取比例，能夠使此算法達(dá)到最佳的理想效果，更加準(zhǔn)確地判斷出是否出現(xiàn)故障或是正常的干擾。缺點(diǎn)：方案二所達(dá)到的錯(cuò)誤率不是很理想，中間出的差錯(cuò)較多，另外在采集樣本時(shí)要考慮多方條件，所以本方案還有待提高。

本系統(tǒng)利用卷積神經(jīng)網(wǎng)絡(luò)算法快速、高效地分類(lèi)壓縮溫度、濕度數(shù)據(jù)，提取有效特征，從而診斷出不同的故障情況。此算法在本文中是用來(lái)對(duì)藥品冷鏈的溫濕度數(shù)據(jù)的處理，這與以往在圖像當(dāng)中的應(yīng)用有所不同，完善了藥品冷鏈監(jiān)控系統(tǒng)。

[1] 郭莉莎.第三方冷鏈物流企業(yè)營(yíng)銷(xiāo)策略研究[J].中國(guó)科技信息，2010(20):194-195.

[2] 張曉歡.我國(guó)醫(yī)藥冷鏈物流的發(fā)展?fàn)顩r與對(duì)策研究[J].管理觀察,2015(8):151-154.

[3] 蔡娟,蔡堅(jiān)勇,廖曉東,等.基于卷積神經(jīng)網(wǎng)絡(luò)的手勢(shì)識(shí)別初探[J].計(jì)算機(jī)系統(tǒng)應(yīng)用,2015,24(4):113-117.

[4] Lawrence S,Giles C L,Tsoi A C,et al.Face recognition:A convolutional neural network approach[J].IEEE Trans.on Neural Networks,1997,8(1):98-113.

[5] 呂國(guó)豪,羅四維,黃雅平,等.基于卷積神經(jīng)網(wǎng)絡(luò)的正則化方法[J].計(jì)算機(jī)研究與發(fā)展,2014,51(9):1891-1900.

[6] Ji S,Yang M,Yu K.3D Convolutional Neural Networks for Human Action Recognition[J].IEEE Transactions on Pattern Analysis & Machine Intelligence,2013,35(1):221-231.

[7] 費(fèi)建超,芮挺,周遊,等.基于梯度的多輸入卷積神經(jīng)網(wǎng)絡(luò)[J].光電工程,2015,42(3):33-38.

[8] Silver D,Huang A,Maddison C J,et al.Mastering the game of Go with deep neural networks and tree search.[J].Nature,2016,57(6):484-489.

[9] 王力,王小華,王莉.神經(jīng)網(wǎng)絡(luò)在車(chē)牌識(shí)別中的應(yīng)用[J].微型機(jī)與應(yīng)用,2011,30(5):38-40.

[10] Lecun Y,Bottou L,Bengio Y,et al.Gradient-based learning applied to document recognition[J].Proceedings of the IEEE,1998,86(11):351-356.

[11] 趙志宏,楊紹普,馬增強(qiáng).基于卷積神經(jīng)網(wǎng)絡(luò) LeNet-5 的車(chē)牌字符識(shí)別研究[J].系統(tǒng)仿真學(xué)報(bào)，2010,22(3)：638-641.

[12] Bouvrie J.Notes on Convolutional Neural Networks[J].Neural Nets,2006(6):123-127.

(責(zé)任編輯：馬金發(fā))

ApplicationofConvolutionNeuralNetworkinDrugColdChainMonitoringSystem

WANG Hongxia,DONG Chongchong,CHEN Liang

(Shenyang Ligong University,Shenyang 110159,China)

For low-temperature drugs in storage,transportation and all pharmaceutical cold chain links,drug cold chain monitoring system is designed to ensure drug efficacy by the convolution neural network algorithm,which could solve proktems of strong environmental sensitivity,short shelf life and large traceability.Through changing the convolution kernel and decimation ratio in the convolution neural network,the convolution neural network parameters to be obtained are the most suitable for system，which means that the temperature and humidity data can be judged more accurately for existence of human disturbance daily record and false phenomenon in drug storehouse.The experimental results show that the input data is 2×160,the convolution kernel of the first layer is 2×17 and the extraction ratio is 1∶3;the convolution kernel of the second layer is 1×11 and the extraction ratio is 1∶2,the error rate is 1.2%.

drug cold chain monitoring system;convolution neural network;convolution kernel;extraction proportion;human disturbance daily record

TP274.5

A

2017-04-01

王紅霞(1977—)，女，教授，博士，研究方向:網(wǎng)絡(luò)管理技術(shù)、信息安全技術(shù)、信息柵格及系統(tǒng)仿真技術(shù)。

1003-1251(2017)05-0034-05