摘 要：物流需求預(yù)測是物流管理中的關(guān)鍵環(huán)節(jié)，但是在現(xiàn)實生活中，物流需求可能受到諸如天氣、經(jīng)濟(jì)狀況、特殊事件等多方面因素的影響，這使得問題呈現(xiàn)出多維度、長序列的特征。隨著深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的發(fā)展，越來越多的研究開始嘗試使用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行物流需求預(yù)測，但是單一的神經(jīng)網(wǎng)絡(luò)模型在處理多維度、長時間序列的預(yù)測任務(wù)時常常表現(xiàn)欠佳。由此文章提出了一種基于CNN-LSTM-AM的神經(jīng)網(wǎng)絡(luò)模型，用于多維長序列物流需求預(yù)測。通過消融實驗與其他模型的對比，結(jié)果表明，其平均絕對誤差（MAE）、均方根誤差（RMSE）、決定系數(shù)（R2）均值分別為1.56、1.63和0.981，均優(yōu)于其他6種神經(jīng)網(wǎng)絡(luò)模型，為物流企業(yè)提供了一個有效的參考來更好地規(guī)劃資源和降低成本。

關(guān)鍵詞：多維物流需求預(yù)測；長時間序列；LSTM（長短時記憶）網(wǎng)絡(luò)；CNN（卷積神經(jīng)網(wǎng)絡(luò)）；注意力機(jī)制

中圖分類號：F259 文獻(xiàn)標(biāo)志碼：A DOI：10.13714/j.cnki.1002-3100.2024.18.010

Abstract： Logistics demand forecasting is a critical component of logistics management， but in real life， logistics demand can be influenced by a variety of factors such as weather， economic conditions， and special events， presenting characteristics of multi-dimensionality and long sequences. With the development of deep learning and neural networks， more and more studies have begun to use neural network models for logistics demand forecasting. However， single neural network model often underperforms in handling multi-dimensional， long-time series forecasting tasks. Therefore， this study proposes a CNN-LSTM-AM based neural network model for multi-dimensional long sequence logistics demand forecasting. Compared with other models through ablation experiments， the results show that its Mean Absolute Error （MAE）， Root Mean Square Error （RMSE）， and Coefficient of Determination （R2） values are 1.56， 1.63 and 0.981， respectively， all superior to six other neural network models. This provides an effective reference for logistics enterprises to better plan resources and reduce costs.

Key words： multi-dimensional logistics demand forecasting; long time series; LSTM （Long Short-Term Memory） network; CNN （Convolutional Neural Network）; Attention mechanism

0 引 言

在過去的幾十年中，關(guān)于時間序列分析和預(yù)測方法的研究大致可以分為數(shù)理統(tǒng)計模型和神經(jīng)網(wǎng)絡(luò)模型。數(shù)理統(tǒng)計模型以統(tǒng)計學(xué)為基礎(chǔ)，形式簡單易于建立和解釋各變量之間關(guān)系，有利反映需求變化的趨勢性、周期性等規(guī)律。代表方法有：回歸分析模型[1]、指數(shù)平滑模型[2]、ARIMA 模型、灰色預(yù)測（grey model，GM）、狀態(tài)空間模型（SSMs）等。程元棟等[3] 以我國 1990—2021 年月度貨運(yùn)周轉(zhuǎn)量為物流需求數(shù)據(jù)來源，采用ARIMA模型7m5yZa/QwTwGKSImxEMJcW0CMSIhmnXISQMMGirMN98=建立具有線性關(guān)系的時間序列。王寶英等[4]利用傳統(tǒng)灰色預(yù)測模型和灰色殘差馬爾科夫模型設(shè)計擬合分組試驗，結(jié)果表明，灰色殘差馬爾科夫模型的預(yù)測結(jié)果相比于傳統(tǒng)灰色預(yù)測模型更加精準(zhǔn)。Svetunkov等[5]提出了一種新的狀態(tài)空間模型，有效解決了間歇性需求的庫存決策問題，為庫存管理和需求預(yù)測提供了新的視角和工具。但是，這類模型在捕獲協(xié)變量和目標(biāo)序列之間的關(guān)系方面存在不足，限制了對復(fù)雜時間序列的預(yù)測能力。其次，線性關(guān)系的假設(shè)過于簡化，難以模擬復(fù)雜關(guān)系，不能有效處理多變量互相制約的情況。

神經(jīng)網(wǎng)絡(luò)模型具有強(qiáng)大的擬合能力，具有端到端的學(xué)習(xí)特征，代表方法有：邏輯回歸模型[6]、聚類算法[7]、支持向量機(jī)（SVM）、K近鄰、BP神經(jīng)網(wǎng)絡(luò)、多層感知機(jī)（MLP）、卷積神經(jīng)網(wǎng)絡(luò)（CNN）、長短時記憶網(wǎng)絡(luò)（LSTM）、注意力機(jī)制（Attention）等。Yu等[8]采用了一種結(jié)合蟻群算法和支持向量機(jī)的方法進(jìn)行預(yù)測，并用優(yōu)化后的支持向量機(jī)模型預(yù)測青島的物流需求。肖赟等[9]提出了一種基于改進(jìn)的K近鄰算法的預(yù)測方法，成功地重建了與當(dāng)前需求狀態(tài)相似的歷史時間序列。Huang等[10]

的研究使用了BP神經(jīng)網(wǎng)絡(luò)方法，針對廣東地區(qū)進(jìn)行了物流需求預(yù)測。Li等[11]采用LSTM長短時記憶網(wǎng)絡(luò)，考慮了電子商務(wù)的增長等對全球物流行業(yè)的影響。Pek?z[12]的研究就使用了CNN-LSTM神經(jīng)網(wǎng)絡(luò)來預(yù)測區(qū)域物流需求，結(jié)果表明，CNN-LSTM神經(jīng)網(wǎng)絡(luò)在預(yù)測準(zhǔn)確性上超過了其他神經(jīng)網(wǎng)絡(luò)模型。在時間序列預(yù)測中，長短時記憶網(wǎng)絡(luò)（LSTM）卷積神經(jīng)網(wǎng)絡(luò)（CNN）的模型注意力（Attention）的模型已經(jīng)得到了廣泛使用[13]。然而，盡管這些模型相較于數(shù)理統(tǒng)計模型在預(yù)測精度上有所提升，但單一使用神經(jīng)網(wǎng)絡(luò)模型容易在預(yù)測階段產(chǎn)生曝露偏差，導(dǎo)致模型在預(yù)測過程中累積錯誤。另外，長時間序列中復(fù)雜的時間模式使得單一模型難以挖掘出可靠的時間依賴關(guān)系。在多維長序列任務(wù)中，需要處理的時間序列數(shù)據(jù)通常具有較長的時間跨度和復(fù)雜的模式，這對模型的處理能力提出了更高的要求。

1 問題描述

準(zhǔn)確的需求預(yù)測可以幫助企業(yè)更好地規(guī)劃資源，提高運(yùn)營效率。但是，在現(xiàn)實生活中物流需求受到多種因素的影響，如季節(jié)性、天氣、經(jīng)濟(jì)狀況、節(jié)假日、特殊事件等影響，這使得需求預(yù)測變得非常復(fù)雜。傳統(tǒng)的預(yù)測方法，如移動平均法、指數(shù)平滑法或數(shù)理統(tǒng)計模型等，多是以年份為尺度的宏觀層面，輸入數(shù)據(jù)特征多為單一向量的輸入，多維需求預(yù)測要求輸入數(shù)據(jù)特征為矩陣。輸入格式的不匹配導(dǎo)致傳統(tǒng)預(yù)測模型方法尚不能有效處理在微觀層面呈現(xiàn)多特征多維度的需求預(yù)測問題。

此外，針對多維的數(shù)據(jù)特征，相關(guān)研究多采用機(jī)器學(xué)習(xí)模型，特別是深度學(xué)習(xí)模型，如卷積神經(jīng)網(wǎng)絡(luò)（CNN）、雙向長短時記憶（LSTM）和注意力機(jī)制（AM）等，這類模型可以處理大量的數(shù)據(jù)，識別復(fù)雜的非線性模式，從而提高預(yù)測的準(zhǔn)確性。但是單一的神經(jīng)網(wǎng)絡(luò)模型在處理多維長序列問題時，往往不能捕捉到多維長序列數(shù)據(jù)復(fù)雜的模式和關(guān)系，且不能很好地處理這些復(fù)雜性，可能表現(xiàn)欠佳，造成對模型的欠擬合問題，導(dǎo)致預(yù)測結(jié)果的準(zhǔn)確性不高。

基于上述背景，本研究提出一種使用多種神經(jīng)網(wǎng)絡(luò)模型的模型，即CNN-LSTM-AM，來探討如何利用CNN-LSTM-AM神經(jīng)網(wǎng)絡(luò)進(jìn)行多維物流需求預(yù)測。本研究希望通過這種方法，更準(zhǔn)確地預(yù)測物流需求，從而幫助企業(yè)更好地管理資源，提高運(yùn)營效率，降低成本。

2 CNN-LSTM-AM模型構(gòu)建

2.1 基本架構(gòu)

本文提出了一種新型的用于物流需求預(yù)測的網(wǎng)絡(luò)模型，稱為CNN-LSTM-AM神經(jīng)網(wǎng)絡(luò)模型，并改進(jìn)了CNN-LSTM-AM模型使之更適合處理物流需求預(yù)測問題。在本研究所處理的任務(wù)中“SO”的含義為物流訂單量，是預(yù)測的目標(biāo)標(biāo)簽。此外采集了對物流訂單影響較大的九大因素作為輸入特征，其中輸入數(shù)據(jù)九大特征含義分別為“SO_c”代表物流訂單量修正值，“INV”代表庫存水平，“INV_c”代表庫存水平修正值，“ITO”代表庫存周轉(zhuǎn)率，“Return rate”代表退貨率，“NC2OCOratio”代表新客戶與老客戶訂單比，“IOC”代表友商訂單水平，“IOC_c”代表友商訂單水平修正值，“Special events”代表促銷節(jié)假日等特殊事件。

根據(jù)CNN、LSTM和AM的特點以及輸入數(shù)據(jù)的特點，建立了基于CNN-LSTM-AM的預(yù)測模型。模型結(jié)構(gòu)圖如圖1所示。該模型的主要結(jié)構(gòu)包括CNN、LSTM和AM，涵蓋了輸入層、CNN層（一維卷積層、池化層）、LSTM層、AM層、全連接層以及輸出層。

2.2 模型構(gòu)建 （11）

3 實驗部分

本實驗采集了武漢市某具有越庫模式的物流企業(yè)2020年1月—2023年4月的物流訂單作為預(yù)測的原始樣本集，由于原始數(shù)據(jù)中離散性的數(shù)據(jù)較多，以及數(shù)據(jù)特征分布稀疏，本文選擇每間隔6h對數(shù)據(jù)集進(jìn)行統(tǒng)計，將6h以來產(chǎn)生的物流需求進(jìn)行加總為一條數(shù)據(jù)，統(tǒng)計后12h的短時物流數(shù)據(jù)為4 800條。每條數(shù)據(jù)包含十個特征，部分樣本數(shù)據(jù)顯示在表1中。本實驗將前3 000個數(shù)據(jù)作為訓(xùn)練集，后1 800個數(shù)據(jù)作為測試集。圖2為輸入數(shù)據(jù)樣式。本研究所有方法都是在基于TensorFlow的開源學(xué)習(xí)庫Keras中使用Python實現(xiàn)的。本研究所有實驗都在Intel?i5-10400F 4.00GHz CPU，6G NVIDIA RTX 3070Ti GPU 32GB RAM的PC服務(wù)器上進(jìn)行的。

3.1 模型訓(xùn)練過程

用于該實驗的CNN-LSTM-AM模型的部分超參數(shù)設(shè)置見表2。在本實驗中，Epoch為100，損失函數(shù)為MAE，優(yōu)化器選擇Adam，批量大小為64，時間步長為10，學(xué)習(xí)率為0.001。圖3 為CNN-LSTM-AM模型訓(xùn)練過程中的收斂情況。

判斷是否滿足預(yù)測處理的結(jié)束條件：成功結(jié)束的條件是完成預(yù)定數(shù)量的循環(huán)，權(quán)重低于某個閾值，預(yù)測的錯誤率低于某個閾值。如果滿足至少一個結(jié)束條件，則完成培訓(xùn)。否則，培訓(xùn)將繼續(xù)。

誤差反向傳播：計算的誤差在相反方向上傳播，更新每層的權(quán)重和偏置，然后過程返回到CNN層計算以繼續(xù)網(wǎng)絡(luò)訓(xùn)練。

3.2 預(yù)測流程

4 結(jié) 果

4.1 預(yù)測結(jié)果展示

完成預(yù)測的CNN-LSTM-AM模型的預(yù)測值與真實值的擬合情況見圖6。為了使趨勢對比更加直觀明顯，同時為了縮略表格節(jié)約空間，此處的對比圖沒有對數(shù)據(jù)進(jìn)行反歸一化，Y軸選擇的是歸一化之后的數(shù)據(jù)，數(shù)據(jù)特征與趨勢與原樣本完全相同。從圖片的表現(xiàn)可以直觀地看出CNN-LSTM-AM模型的擬合情況優(yōu)秀。

4.2 模型性能對比

為了更加客觀地評估CNN-LSTM-AM的預(yù)測效果，本研究在相同的操作環(huán)境下使用相同的訓(xùn)練集和測試集數(shù)據(jù)將此方法與MLP、CNN、RNN、LSTM、CNN-LSTM和LSTM-AM這6種神經(jīng)網(wǎng)絡(luò)模型進(jìn)行比較。針對模型性能的評估，本研究使用平均絕對誤差（MAE）、均方根誤差（RMSE）和決定系數(shù)（R2）作為評估模型的指標(biāo)。表示模型輸出的預(yù)測值，表示測試集中的實際標(biāo)簽，是測試集中的樣本數(shù)。MAE計算公式如下。其中是預(yù)測值，是真實值。MAE越小，則預(yù)測越準(zhǔn)確。

根據(jù)每種方法的預(yù)測值和真實值的對比，可以計算出每種方法的評價誤差指標(biāo)，7種模型的比較結(jié)果見表3。從表3中可知，CNN的MAE和RMSE最大，R2最小。另一方面，CNN-LSTM-AM的MAE和RMSE最小，R2最大，最接近1。7種方法的預(yù)測性能從高到低依次為CNN-LSTM-AM、CNN-LSTM、LSTM-AM、LSTM、RNN、MLP、CNN。單一的神經(jīng)網(wǎng)絡(luò)模型中LSTM的表現(xiàn)最好，其MAE為4.58，RMSE為4.25，R2為0.750。CNN-LSTM與LSTM相比，比LSTM模型的MAE和RMSE更小，R2更大；其MAE減少了76%；其RMSE下降了64%；其R2上升了85%，這表明LSTM加入CNN層之后CNN-LSTM相比LSTM在預(yù)測精度上有一定的提高。由此可見，在處理具有較長的時間跨度和復(fù)雜模式的多維長序列預(yù)測任務(wù)中，復(fù)合的神經(jīng)網(wǎng)絡(luò)模型的性能普遍優(yōu)于單一的神經(jīng)網(wǎng)絡(luò)模型。

復(fù)合模型在此任務(wù)中相較于單一模型更有優(yōu)勢，為了更加直觀地將CNN-LSTM-AM與CNN-LSTM、LSTM-AM對比，本研究采用層次消融的消融實驗方法，有選擇地移除神經(jīng)網(wǎng)絡(luò)中的卷積層（CNN）和注意力機(jī)制層（AM），探究它們對模型性能和功能的影響，如圖13所示在LSTM中加入CNN和AM對提升模型性能至關(guān)重要。從表3中可知，CNN-LSTM-AM與CNN-LSTM相比，即CNN-LSTM引入AM（注意力機(jī)制層）時，其預(yù)測精度有明顯提高。MAE降低44%，RMSE降低59%，R2提升90%。

綜上所述，在7種方法中，CNN-LSTM-AM的性能最好。其MAE為1.56，RMSE為1.63，R2為0.981，本文提出的CNN-LSTM-AM方法能夠最好地預(yù)測未來冷鏈物流企業(yè)的物流需求，為企業(yè)管理者物流運(yùn)營商做出正確的投資決策提供參考。

4.3 CNN-LSTM-AM模型預(yù)測

將訓(xùn)練好的CNN-LSTM-AM神經(jīng)網(wǎng)絡(luò)模型進(jìn)行保存，并輸入該物流企業(yè)的歷史物流需求數(shù)據(jù)，利用CNN-LSTM-AM神經(jīng)網(wǎng)絡(luò)模型對該物流企業(yè)下個月的物流需求進(jìn)行預(yù)測，其五月物流需求走勢如圖14 所示。

圖14 五月物流需求走勢圖

5 結(jié) 論

根據(jù)多維物流需求數(shù)據(jù)的特性，本文提出了一個CNN-LSTM-AM神經(jīng)網(wǎng)絡(luò)模型來預(yù)測冷鏈物流企業(yè)未來的訂單量。該方法使用十個特征作為輸入，它充分利用了物流需求數(shù)據(jù)的時間序列特性。在該模型中CNN用于提取輸入數(shù)據(jù)的特征，LSTM用于學(xué)習(xí)和預(yù)測提取的特征數(shù)據(jù)，最后AM用來捕獲時間序列數(shù)據(jù)在不同時間的特征狀態(tài)對預(yù)測結(jié)果的影響，CNN-LSTM-AM的架構(gòu)提高預(yù)測準(zhǔn)確性和性能。

與已有研究相比，本文研究對象不同。目前大部分文獻(xiàn)針對物流需求的研究主要集中于宏觀區(qū)域內(nèi)的物流需求，缺乏對于微觀物流企業(yè)物流需求特別是訂單量的預(yù)測，本文的研究對象是以6h為單位進(jìn)行統(tǒng)計的企業(yè)物流需求，長度為4 800的序列。數(shù)據(jù)特征不同，目前研究以年為單位的序列數(shù)據(jù)量不足預(yù)測精度不高，此外，本文研究數(shù)據(jù)呈現(xiàn)一定非平穩(wěn)性、隨機(jī)性等特征，單一的神經(jīng)網(wǎng)絡(luò)模型難以捕捉到數(shù)據(jù)潛在特征。 模型架構(gòu)不同，區(qū)別于以往的模型和算法，通過分析數(shù)據(jù)的時間序列和相關(guān)性，在CNN-LSTM模型中引入分層結(jié)構(gòu)和注意力機(jī)制（AM），有效地解決了在預(yù)測階段產(chǎn)生的曝露偏差問題，使得模型能夠高效地處理長時間序列；解決模型預(yù)測結(jié)果誤差大的問題，提升了模型的預(yù)測精確度，使模型更適合多維度多特征的復(fù)雜模式。

實驗結(jié)果表明，與MLP、CNN、RNN、LSTM、CNN-LSTM和LSTM-AM相比，CNN-LSTM-AM具有最高的預(yù)測準(zhǔn)確性和最佳的性能。CNN-LSTM-AM的MAE和RMSE是所有方法中最小的，R2最接近1。 CNN-LSTM-AM適用于物流需求預(yù)測，并可以為企業(yè)管理者提供相關(guān)參考，以更好幫助企業(yè)實現(xiàn)降本增效。CNN-LSTM-AM的提出也為學(xué)者們對物流需求更深入的研究提供了借鑒。未來的研究工作將主要調(diào)整模型中的參數(shù)，使結(jié)果更加準(zhǔn)確，此外還將研究該模型是否可以應(yīng)用于時間序列預(yù)測的更多應(yīng)用領(lǐng)域，如黃金價格預(yù)測、股票價格的預(yù)測、油價預(yù)測、天氣預(yù)測、地震預(yù)測等。

參考文獻(xiàn)：

[1] 李雋波，孫麗娜．基于多元線性回歸分析的冷鏈物流需求預(yù)測[J]．安徽農(nóng)業(yè)科學(xué)，2011，39（11）：6519-6520，6523.

[2] 于博，孫安國，陳麗萍，等．基于指數(shù)平滑法的云南省物流需求預(yù)測[J]．物流工程與管理，2018，40（12）：39-40，38.

[3] 程元棟，喻可欣，李先洋．基于加權(quán)馬爾科夫-ARIMA修正模型的區(qū)域物流需求預(yù)測[J]．山東交通學(xué)院學(xué)報，2023，31（3）：22-28.

[4] 王寶英，張嘉琪．基于灰色殘差馬爾科夫模型的山西省農(nóng)產(chǎn)品冷鏈物流需求預(yù)測[J]．?dāng)?shù)學(xué)的實踐與認(rèn)識，2023，53（4）：92-99.

[5] SVETUNKOV I，BOYLAN J E．iETS：State space model for intermittent demand forecasting[J/OL]．International Journal ofProduction Economics，2023，265：109013.[2023-10-13].https：//doi.org/10.1016/j.ijpe.2023.109013.

[6] KHASANZODA N，ZICMANE I，BERYOZKINA S，et al．Regression model for predicting the speed of wind flows forenergy needs based on fuzzy logic[J]．Renewable Energy，2022，191：723-731.

[7] LYU Dongmei．Multi-region logistics distribution demand forecasting method based on big data analysis[C]//MOHAMMED A，NEIL Yen，ZHENG Xu．Big Data Analystics for Cyber-Physical Systems in Smart City．BDCPS 2019，28-29 December，2019，Shengyang，China，2019：1313-1321.

[8] YU Nan，XU Wei，YU Kaili．Research on regional logistics demand forecast based on improved support vector machine：A casestudy of Qingdao City under the New Free Trade Zone Strategy[J]．IEEE Access，2020，8：9551-9564.

[9] 肖赟，劉洋，裴愛暉，等．城市配送需求預(yù)測方法研究[J]．公路交通科技，2023，40（3）：254-262.

[10] HUANG Lijuan，XIE Guojie，ZHAO Wende，et al．Regional logistics demand forecasting：A BP neural network approach[J].Complex & Intelligent Systems，2023，9（3）：2297-2312.

[11] LI Ya，WEI Zhanguo．Regional logistics demand prediction：A long short-term memory network method[J/OL]．Sustainability，2022，14（20）：13478.[2023-10-15].https：//doi.org/10.3390/su142013478.

[12] PEK?Z A．Deep learning approaches for demand forecasting in A third-party logistics platform[D]．Bursa：BursaUludag University（Turkey），2021.

[13] TONG Junlong，XIE Liping，YANG Wankou，et al．Enhancing time series forecasting：A hierarchical transformer withprobabilistic decomposition representation[J/OL]．Information Sciences，2023，647：119410.[2023-10-17]．https：//doi.org/10.1016/j.ins.2023.119410.

[14] SHI Mingjiang，YANG Bohan，CHEN Rui，et al．Logging curve prediction method based on CNN-LSTM-attention[J]. EarthScience Informatics，2022，10（15）：2119-2131.

[15] REN Chuangxiang，CHAI Chunxu，YIN Changchang，et al．Short-term traffic flow prediction：A method of combined deeplearnings[J]．Journal of Advanced Transportation，2021（722）：1-15.

[16] LECUN Y，BOTTOU L，BENGIO Y，et al．Gradient-based learning applied to document recognition[J]．Proceeding of theIEEE，1998，86（11）：2278-2324.

[17] HOCHREITER S，SCHMIDHUBER J．Long Short-Term Memory[J]．Neural Computation，1997，9（8）：1735-1780.

[18] TREISMAN A M，GELADE G．A feature-integration theory of attention[J]．Cognitive Psychology，1980，12（1）：97-146.

[19] 冉茂亮，陳彥如，楊新彪．基于EEMD-LMD-LSTM-LEC深度學(xué)習(xí)模型的短時物流需求預(yù)測[J]．控制與決策，2022，37（10）：2513-2523.

[20] 岳偉，袁媛．基于Shapley組合模型的冷鏈物流需求預(yù)測研究[J]．赤峰學(xué)院學(xué)報（自然科學(xué)版），2023，39（8）：27-33.