李 理

（北京理工大學(xué)計(jì)算機(jī)學(xué)院，北京100081）

1 引 言

邊緣計(jì)算是指在數(shù)據(jù)源處或附近進(jìn)行的計(jì)算，這與依靠眾多數(shù)據(jù)中心的云計(jì)算來(lái)完成所有工作的模式有著顯著不同［1］，被認(rèn)為是“人工智能的最后一公里”。邊緣計(jì)算的特點(diǎn)是低延遲、隱私安全性和靈活性。近年來(lái)，邊緣計(jì)算的飛速發(fā)展在不斷推動(dòng)邊緣人工智能物聯(lián)網(wǎng)的發(fā)展［2］。當(dāng)前社會(huì)發(fā)展正在經(jīng)歷萬(wàn)物智能互聯(lián)的時(shí)代，人工智能與物聯(lián)網(wǎng)正在改變世界各地的產(chǎn)業(yè)面貌與布局，隨之而來(lái)的是視覺(jué)/視頻應(yīng)用與連網(wǎng)量的激增。根據(jù)IHS Markit 的數(shù)據(jù)，到2019年，全球僅監(jiān)控?cái)z像頭每天產(chǎn)生的數(shù)據(jù)量就達(dá)到2500PB。根據(jù)麥姆斯咨詢（MEMS Consulting）的數(shù)據(jù)，全球計(jì)算機(jī)視覺(jué)市場(chǎng)規(guī)模預(yù)計(jì)到2023年將增長(zhǎng)至173.8億美元，激增的視覺(jué)應(yīng)用正在推動(dòng)人工智能向邊緣普及。根據(jù)華為《全球產(chǎn)業(yè)展望GIV2025：打開(kāi)智能世界的產(chǎn)業(yè)版圖》白皮書(shū)，到2025年，全球物聯(lián)數(shù)量達(dá)1000 億量級(jí)，全球智能終端將達(dá)400 億。以英特爾公司為例，2019年在無(wú)人機(jī)、相機(jī)、機(jī)器人和自動(dòng)駕駛汽車等設(shè)備的邊緣計(jì)算收入同比增長(zhǎng)了約20%，預(yù)計(jì)這一數(shù)字會(huì)逐年增長(zhǎng)?！皬臄?shù)據(jù)中心走到邊緣”已成為業(yè)界的趨勢(shì)。根據(jù)互聯(lián)網(wǎng)數(shù)據(jù)中心（IDC）的數(shù)據(jù)，到2019年底，45%的數(shù)據(jù)將在邊緣進(jìn)行存儲(chǔ)；到2023年，在邊緣設(shè)備上發(fā)生人工智能任務(wù)的比例為43%，具有邊緣人工智能功能的設(shè)備將增長(zhǎng)15 倍；到2025年，全球累計(jì)的數(shù)據(jù)量將從2018年的33 ZB增長(zhǎng)到175 ZB，這些數(shù)據(jù)很大部分將來(lái)自用于安全和商業(yè)智能目的的IP監(jiān)控?cái)z像機(jī)。

圖1 邊緣計(jì)算被認(rèn)為是“人工智能的最后一公里”Fig.1 Edge computing is regarded as the last kilo-meter of artificial intelligence(AI)

2 面向邊緣計(jì)算的人工智能軟硬件市場(chǎng)火爆

英特爾公司的邊緣計(jì)算人工智能產(chǎn)品體系以Intel Movidius MyriadTM X 視覺(jué)加速芯片、可擴(kuò)展的人工智能加速解決方案、OpenVINOTM 深度學(xué)習(xí)部署工具套件為支柱。2019年10月，英特爾公司宣布了“高性能計(jì)算”“邊緣賦能”“視覺(jué)（視頻）推理”三大物聯(lián)網(wǎng)戰(zhàn)略，積極推動(dòng)物聯(lián)網(wǎng)生態(tài)系統(tǒng)的發(fā)展進(jìn)化。與此同時(shí)，英特爾公司推出最新版本的OpenVINO 工具包（2019 R3），推出邊緣人工智能生態(tài)智庫(kù)，旨在以領(lǐng)先的開(kāi)發(fā)者工具和生態(tài)系統(tǒng)方案，幫助行業(yè)快速規(guī)模部署人工智能物聯(lián)網(wǎng)?；贗ntel Movidius 和邊緣計(jì)算技術(shù)，英特爾云圖睿視邊緣計(jì)算平臺(tái)內(nèi)嵌視覺(jué)算法，支持各類傳感器接入和各類算法運(yùn)行，是全球首款開(kāi)放式人工智能邊緣計(jì)算平臺(tái)。

2019年3月，谷歌公司發(fā)布了TensorFlow 2.0的Alpha 版和智能硬件平臺(tái)Coral。Coral 平臺(tái)采用專為邊緣計(jì)算設(shè)計(jì)的Edge TPU，可為低功耗設(shè)備提供高性能機(jī)器學(xué)習(xí)推理能力，此舉被業(yè)界認(rèn)為是在邊緣計(jì)算布局相較于其他國(guó)際科技巨頭起步較晚的谷歌公司走出了邊緣計(jì)算硬件化的重要一步。2019年11月，谷歌公司與意大利電信公司就邊緣計(jì)算服務(wù)的發(fā)展建立主要戰(zhàn)略聯(lián)盟?；萜展竞臀④浌痉謩e計(jì)劃在未來(lái)四年內(nèi)向物聯(lián)網(wǎng)和邊緣計(jì)算領(lǐng)域投資40億美元和50億美元。

2019年7月，歐盟TEMPO 項(xiàng)目啟動(dòng)，由瑞士神經(jīng)擬態(tài)處理器研發(fā)公司aiCTX牽頭，共15家單位參與，旨在探索支持新興存儲(chǔ)技術(shù)及新型硬件架構(gòu)來(lái)實(shí)現(xiàn)超低功耗神經(jīng)擬態(tài)運(yùn)算，以滿足智能終端設(shè)備對(duì)復(fù)雜深度學(xué)習(xí)算法的應(yīng)用需求，為人工智能邊緣運(yùn)算市場(chǎng)的到來(lái)做好準(zhǔn)備。aiCTX已在2019年4月發(fā)布全球首款基于事件驅(qū)動(dòng)的人工智能處理器DynapCNN，用于拓展視覺(jué)物聯(lián)網(wǎng)傳感器等諸多應(yīng)用場(chǎng)景的超低功耗邊緣計(jì)算。

2019年5月，英偉達(dá)公司發(fā)布首款面向邊緣設(shè)備的人工智能平臺(tái)Nvidia EGX，旨在將人工智能引入網(wǎng)絡(luò)邊緣。該平臺(tái)具備高性能和可擴(kuò)展性，能夠?qū)崟r(shí)感知、理解和處理數(shù)據(jù)，能夠從基于Jetson Nano 處理器的輕型服務(wù)器（每秒完成0.5 萬(wàn)億次操作）擴(kuò)展到基于邊緣服務(wù)器NVIDIA T4 機(jī)架的微型數(shù)據(jù)中心（每秒完成10000 萬(wàn)億次操作）。2019年10月，英偉達(dá)公司發(fā)布用于構(gòu)建依賴GPU 內(nèi)存運(yùn)行的5G 無(wú)線接入網(wǎng)絡(luò)的開(kāi)發(fā)工具包Aerial，以提升在5G 和邊緣計(jì)算領(lǐng)域部署其人工智能系統(tǒng)的效率。同期，美國(guó)開(kāi)源解決方案提供商紅帽公司宣布其Openshift 平臺(tái)將與英偉達(dá)公司展開(kāi)合作，用以構(gòu)建集成英偉達(dá)EGX 邊緣計(jì)算平臺(tái)的云本地電信基礎(chǔ)設(shè)施，助力電信公司采用能夠支持邊緣工作負(fù)載的5G 網(wǎng)絡(luò)。2019年11月，英偉達(dá)公司宣布推出世界上最小的邊緣人工智能超級(jí)計(jì)算機(jī)——Jetson Xavier NX，且它與Jetson Nano 具有引腳兼容性，能夠輕松優(yōu)化深度學(xué)習(xí)網(wǎng)絡(luò)以進(jìn)行邊緣推理，使開(kāi)發(fā)人員可以在邊緣運(yùn)行融合了人工智能的復(fù)雜應(yīng)用程序。2019年10月，機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)咨詢公司Tryolabs 發(fā)布基準(zhǔn)評(píng)測(cè)報(bào)告，測(cè)試比較了英偉達(dá)Jetson Nano、谷歌Coral 開(kāi)發(fā)板（內(nèi)置Edge TPU）、英特爾計(jì)算棒這三款針對(duì)人工智能設(shè)計(jì)的邊緣計(jì)算設(shè)備以及與不同人工智能算法模型的組合，結(jié)果表明：英偉達(dá)Jetson Nano 無(wú)論在推理時(shí)間還是推理準(zhǔn)確率方面均體現(xiàn)出優(yōu)勢(shì)。

3 降低功耗成為邊緣計(jì)算技術(shù)落地的關(guān)鍵點(diǎn)

應(yīng)用于邊緣計(jì)算場(chǎng)景下的硬件和芯片的節(jié)能功能對(duì)于邊緣計(jì)算來(lái)說(shuō)非常重要［3］，因?yàn)閭鹘y(tǒng)的硬件運(yùn)行此類任務(wù)時(shí)耗電量非常巨大。

2019年4月，瑞士aiCTX 公司發(fā)布了世界首款完全基于事件觸發(fā)運(yùn)算的動(dòng)態(tài)視覺(jué)人工智能處理器DynapCNN。其純異步、高可配置性、可拓展性等為開(kāi)發(fā)和落地一系列邊緣端人工智能模型與應(yīng)用提供了可能性。其基于動(dòng)態(tài)視覺(jué)的事件觸發(fā)運(yùn)算機(jī)制使得DynapCNN 芯片能夠?qū)⒐β式档偷絹唌W級(jí)別。此外，該芯片使用稀疏計(jì)算處理場(chǎng)景中的目標(biāo)移動(dòng)，在保障對(duì)移動(dòng)目標(biāo)實(shí)時(shí)識(shí)別可實(shí)現(xiàn)低于5ms 的超低延遲的同時(shí)，顯著降低了芯片的動(dòng)態(tài)功耗。經(jīng)測(cè)，相較于已有的深度學(xué)習(xí)實(shí)時(shí)視覺(jué)處理方案，DynapCNN 所提供的超低延時(shí)動(dòng)態(tài)視覺(jué)解決方案對(duì)比DL 加速器技術(shù)，將識(shí)別響應(yīng)延時(shí)縮短了90%以上，同時(shí)功耗降低99%以上。

2019年7月，英特爾公司發(fā)布了搭載64 顆Loihi 芯片的神經(jīng)擬態(tài)硬件原型系統(tǒng)Pohoiki-Beach。該原型系統(tǒng)功耗比傳統(tǒng)CPU 功耗降低99.08%以上，比特制的物聯(lián)網(wǎng)推理硬件功耗降低80%以上。從另一個(gè)角度測(cè)試結(jié)果顯示，當(dāng)網(wǎng)絡(luò)規(guī)模擴(kuò)大50 倍后，該系統(tǒng)依然能夠維持實(shí)時(shí)性能，功耗僅增加30%。反觀特制的物聯(lián)網(wǎng)推理硬件，其功耗會(huì)增加超過(guò)5 倍并失去實(shí)時(shí)性。因此，該原型系統(tǒng)對(duì)于獨(dú)立的自動(dòng)駕駛技術(shù)來(lái)說(shuō)至關(guān)重要。

而超低功耗的實(shí)時(shí)信息處理，是類腦芯片最顯著的標(biāo)簽，因此，類腦芯片成為對(duì)物聯(lián)網(wǎng)前端傳感器信息進(jìn)行本地實(shí)時(shí)低功耗處理的重要選擇之一。大腦的神奇之處在于實(shí)時(shí)處理復(fù)雜信息的同時(shí)只消耗極少的能量，而類腦芯片工程的目標(biāo)不是模仿大腦，而是理解大腦如此高效的工作機(jī)制，并把這些機(jī)制用到芯片中。通常而言，在類腦芯片的脈沖神經(jīng)網(wǎng)絡(luò)中，在達(dá)到由變量（或者函數(shù)）所描述的特定閾值時(shí)，神經(jīng)元才發(fā)出脈沖信號(hào)［4］。正是由于這種特性，只有當(dāng)神經(jīng)元脈沖觀察到域的變化時(shí)，神經(jīng)形態(tài)系統(tǒng)才需要能量，所以類腦芯片相比經(jīng)典馮諾依曼計(jì)算架構(gòu)有顯著的功耗優(yōu)勢(shì)以及更強(qiáng)的自適應(yīng)學(xué)習(xí)能力［5］。上述優(yōu)勢(shì)對(duì)邊緣計(jì)算在能效提升和實(shí)時(shí)性提升方面起到了至關(guān)重要的作用，尤其是在邊緣設(shè)備需要實(shí)時(shí)本地處理動(dòng)態(tài)數(shù)據(jù)的情況下，例如自動(dòng)駕駛汽車或者自助機(jī)器人等。

4 邊緣計(jì)算發(fā)展趨勢(shì)分析

邊緣計(jì)算技術(shù)和應(yīng)用仍處于開(kāi)發(fā)的早期階段，亞馬遜公司、谷歌公司、微軟公司、英偉達(dá)公司等傳統(tǒng)云計(jì)算和硬件巨頭是該領(lǐng)域的領(lǐng)導(dǎo)者。目前，世界科技巨頭及廠商通常會(huì)將網(wǎng)關(guān)（歷史數(shù)據(jù)或設(shè)備交換數(shù)據(jù)）和企業(yè)內(nèi)部部署服務(wù)器（在私有云中，但物理位置靠近AI 數(shù)據(jù)生成的地方）的數(shù)據(jù)置于邊緣側(cè)訓(xùn)練。其中，專為企業(yè)內(nèi)部部署服務(wù)器的訓(xùn)練任務(wù)所開(kāi)發(fā)定制的芯片包括英偉達(dá)公司的DGX，以及針對(duì)來(lái)自Cerebras System、Graphcore 和Habana Labs等內(nèi)部部署數(shù)據(jù)中心的系統(tǒng)級(jí)產(chǎn)品。目前，邊緣側(cè)人工智能訓(xùn)練市場(chǎng)較小，因?yàn)槿斯ぶ悄苡?xùn)練任務(wù)更傾向于在云端執(zhí)行，目前英偉達(dá)公司在云端人工智能訓(xùn)練領(lǐng)域處于主導(dǎo)地位。

根據(jù)ABI Research 統(tǒng)計(jì)分析，2019年至2024年期間邊緣人工智能市場(chǎng)將實(shí)現(xiàn)31%復(fù)合年增長(zhǎng)率。邊緣人工智能市場(chǎng)近期著力點(diǎn)歸納如下：首先，WAN 網(wǎng)的傳感器中嵌入超低功耗人工智能芯片，因此這個(gè)領(lǐng)域主要由FPGA廠商、RISC-V設(shè)計(jì)廠商和ASIC 廠商主導(dǎo)。其次，機(jī)器人通常依賴異構(gòu)計(jì)算架構(gòu)，例如：用于導(dǎo)航的SLAM（同時(shí)定位和映射）、用于人機(jī)界面交互的會(huì)話人工智能、用于對(duì)象檢測(cè)的機(jī)器視覺(jué)等，所有這些都會(huì)在不同程度上使用CPU、GPU和ASIC。目前，英偉達(dá)公司、英特爾公司和高通公司正在這個(gè)領(lǐng)域進(jìn)行激烈的競(jìng)爭(zhēng)。最后，涉及制造業(yè)、智能建筑、石油和天然氣等領(lǐng)域的智能工業(yè)應(yīng)用，F(xiàn)PGA 廠商依托兼具靈活性和適應(yīng)性的FPGA架構(gòu)而在該領(lǐng)域市場(chǎng)表現(xiàn)出眾。

當(dāng)前，邊緣計(jì)算產(chǎn)業(yè)生態(tài)架構(gòu)已初步形成，世界科技巨頭在該生態(tài)中的定位主要包括三類：首先，從算法切入，提供面向邊緣側(cè)智能的計(jì)算機(jī)視覺(jué)算法和自然語(yǔ)言處理算法等。其次，從硬件切入，提供手機(jī)、筆記本電腦等（移動(dòng)）終端硬件等。最后，從算力切入，提供面向邊緣計(jì)算的人工智能芯片等［6］。此外，在邊緣計(jì)算的發(fā)展中，還有一個(gè)值得注意的概念——霧計(jì)算。霧計(jì)算強(qiáng)調(diào)設(shè)備網(wǎng)關(guān)中的數(shù)據(jù)處理，數(shù)據(jù)通過(guò)霧計(jì)算收集到設(shè)備的網(wǎng)關(guān)，然后在需要數(shù)據(jù)的設(shè)備中進(jìn)行處理、存儲(chǔ)和應(yīng)用［7］。邊緣計(jì)算強(qiáng)調(diào)邊緣側(cè)，即更靠近數(shù)據(jù)生成的設(shè)備端（數(shù)據(jù)源），所以霧計(jì)算介于傳統(tǒng)云計(jì)算和邊緣計(jì)算之間。

目前，邊緣計(jì)算已經(jīng)在自動(dòng)駕駛、智能安防、消費(fèi)電子等領(lǐng)域產(chǎn)生爆發(fā)式應(yīng)用。以自動(dòng)駕駛為例，在高速行駛的情況下，確保安全的首要前提是實(shí)時(shí)性。然而，由于網(wǎng)絡(luò)終端的延遲以及無(wú)法預(yù)知的網(wǎng)絡(luò)帶寬堵塞，云計(jì)算不能保證實(shí)時(shí)性，因此面向邊緣計(jì)算的車載終端計(jì)算平臺(tái)成為自動(dòng)駕駛計(jì)算發(fā)展的必然趨勢(shì)［8］。此外，伴隨著電氣化的發(fā)展趨勢(shì)，低功耗對(duì)于汽車工業(yè)變得越來(lái)越重要，因此滿足實(shí)時(shí)性和低功耗需求的ASIC 芯片將成為車載計(jì)算平臺(tái)的未來(lái)發(fā)展趨勢(shì)。以智能安防為例，與傳統(tǒng)的視頻監(jiān)控相比，人工智能加持的視頻監(jiān)控最重要的變革是將被動(dòng)監(jiān)控變?yōu)橹鲃?dòng)分析和預(yù)警，因此有效降低了手動(dòng)處理大量監(jiān)視數(shù)據(jù)帶來(lái)的巨大人力成本和應(yīng)激反應(yīng)時(shí)延；另一方面，隨著圖像識(shí)別和硬件技術(shù)的發(fā)展，依托邊緣計(jì)算的終端智能安防的條件越來(lái)越成熟［9］。在工業(yè)領(lǐng)域，邊緣計(jì)算也發(fā)揮著越來(lái)越重要的作用，因?yàn)閺墓I(yè)發(fā)展的方向來(lái)看，數(shù)據(jù)將成為驅(qū)動(dòng)生產(chǎn)和制造的重要生產(chǎn)手段，因此如何處理這些海量的實(shí)時(shí)數(shù)據(jù)已成為企業(yè)快速發(fā)展的重要問(wèn)題。

5 邊緣計(jì)算面臨的挑戰(zhàn)分析

隨著人工智能在邊緣計(jì)算平臺(tái)中的應(yīng)用，以及對(duì)邊緣計(jì)算和物聯(lián)網(wǎng)“端-云”的日益增長(zhǎng)的推動(dòng)，邊緣智能已成為邊緣計(jì)算的一種新形式，打通物聯(lián)網(wǎng)應(yīng)用的“最后一公里”［2］。目前，邊緣計(jì)算的研發(fā)面臨以下挑戰(zhàn)：

圖2 邊緣計(jì)算面臨的挑戰(zhàn)分析Fig.2 Analysis of the challenges faced by edge computing

（1）電源與功耗。邊緣計(jì)算設(shè)備往往處于圈層感知網(wǎng)絡(luò)的末端，部署量非常巨大，如何在這些“末梢位置”為邊緣計(jì)算設(shè)備提供充足的電源供給，是邊緣計(jì)算技術(shù)與設(shè)備大面積落地應(yīng)用所要面臨的關(guān)鍵問(wèn)題。在這種情況下，通過(guò)電源架供電并進(jìn)行電力智能分配策略，已成為一種越來(lái)越常見(jiàn)的機(jī)制［3］，然而如何降低邊緣計(jì)算設(shè)備功耗應(yīng)該是解決該問(wèn)題的主要突破口之一［10］。

（2）人工智能與人工智能芯片。高效的邊緣計(jì)算技術(shù)與設(shè)備離不開(kāi)高效的人工智能芯片。它不僅能夠提高算力，而且可以有效降低功耗。特別是人工智能芯片所搭載的人工智能算法模型，能夠在提供額定數(shù)據(jù)實(shí)時(shí)邊緣處理能力基礎(chǔ)上有效甄別數(shù)據(jù)重要程度，從而完成數(shù)據(jù)清洗，進(jìn)而降低邊緣計(jì)算設(shè)備損耗以及對(duì)邊緣計(jì)算設(shè)備進(jìn)行管理檢修和異常檢測(cè)感知［11］。

（3）安全與隱私。與其他技術(shù)一樣，邊緣計(jì)算技術(shù)在安全性方面并非萬(wàn)無(wú)一失，它需要提供一套與傳統(tǒng)集中式計(jì)算和存儲(chǔ)不同的數(shù)據(jù)安全與隱私保護(hù)策略［12］。因此，邊緣端的安全措施需要進(jìn)行大規(guī)模的升級(jí)改造以支撐邊緣計(jì)算安全運(yùn)行。

（4）5G。作為未來(lái)網(wǎng)絡(luò)的5G與邊緣計(jì)算的融合和銜接成為研究重點(diǎn)，二者互補(bǔ)性強(qiáng)，已成為彼此大規(guī)模應(yīng)用的必要保障。5G 網(wǎng)絡(luò)所能提供的更快速度，能夠有效保障邊緣計(jì)算與物聯(lián)網(wǎng)進(jìn)行低延遲的高效通信［12-14］，為云端計(jì)算預(yù)留更多的數(shù)據(jù)處理能力和網(wǎng)絡(luò)連接能力。

6 結(jié)束語(yǔ)

當(dāng)今社會(huì)和科技發(fā)展正在邁向以數(shù)據(jù)為中心的嶄新世界，“萬(wàn)物智能互聯(lián)”是最具代表性的趨勢(shì)之一。邊緣計(jì)算技術(shù)能夠應(yīng)用于自動(dòng)駕駛、物聯(lián)網(wǎng)、機(jī)器人、醫(yī)養(yǎng)等諸多行業(yè)，同時(shí)也成為5G 衍生概念，在當(dāng)下世界各國(guó)進(jìn)入5G“攻堅(jiān)戰(zhàn)”的關(guān)鍵時(shí)期，得到了更多的關(guān)注。數(shù)據(jù)爆發(fā)式、指數(shù)級(jí)增長(zhǎng)的趨勢(shì)已經(jīng)不可阻擋，并將繼續(xù)呈指數(shù)級(jí)增長(zhǎng)。首先在數(shù)據(jù)中心處理大量數(shù)據(jù)、然后在云中處理這些數(shù)據(jù)的傳統(tǒng)方式已不適用于具有大量數(shù)據(jù)的高需求任務(wù)，網(wǎng)絡(luò)的性能和速度繼續(xù)擴(kuò)展著新的性能極限，隨之而來(lái)的是對(duì)新解決方案的需求，現(xiàn)在是邊緣計(jì)算和邊緣設(shè)備時(shí)代的開(kāi)始。邊緣計(jì)算將數(shù)據(jù)處理任務(wù)放置在網(wǎng)絡(luò)邊緣（靠近數(shù)據(jù)源）的設(shè)備上，這種計(jì)算方法可以非?？焖俚貙?shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)處理，對(duì)于具有機(jī)器學(xué)習(xí)能力和人工智能能力的許多復(fù)雜的物聯(lián)網(wǎng)解決方案來(lái)說(shuō)是必需的。