廠商說法

Sophon智能服務(wù)器是比特大陸研發(fā)的一款高密度服務(wù)器，如圖所示，該服務(wù)器應(yīng)用于人臉檢測、人體檢測、車輛檢測、非人檢測等安防場景。前端數(shù)據(jù)流進入服務(wù)器中，由服務(wù)器進行數(shù)據(jù)計算，對數(shù)據(jù)進行智能分析后，將結(jié)果返回給業(yè)務(wù)應(yīng)用層，應(yīng)用層根據(jù)結(jié)果給予相應(yīng)的反饋。

典型應(yīng)用場景為人臉識別系統(tǒng)，系統(tǒng)主要采用了人臉檢測算法、人臉跟蹤算法、人臉質(zhì)量評分算法以及高速人臉對比識別算法，實現(xiàn)了實時人臉抓拍建模、實時黑名單對比報警和人臉后臺檢索等功能。

得益于迅猛增長的算力，大數(shù)據(jù)、算法以及神經(jīng)網(wǎng)絡(luò)前所未有的突破，AI 已經(jīng)無處不在，成為了近十年和未來十年最具顛覆性的技術(shù)。AI，正箭在弦上！

市面上流行的AI安防解決方案主要分為兩類：前端型，大多數(shù)依靠架設(shè)在前端的單個AI IPC實現(xiàn)對重要卡口的捕捉監(jiān)控，算法需要大量的數(shù)據(jù)和算力來完成，依靠云服務(wù)來執(zhí)行計算；后端型，在不對前端普通IPC升級的情況下，只使用一臺或少量幾臺由 AI 驅(qū)動的多路服務(wù)器使整套網(wǎng)絡(luò)具備AI功能。用戶面對兩種選擇該何去何從，分別構(gòu)建兩者所需的成本將制約用戶能否在AI時代占領(lǐng)制高點。

無論是提供計算資源的云服務(wù)供應(yīng)商，還是支撐強算力的服務(wù)器、GPU 廠商，亦或是致力于搭建深度學(xué)習(xí)框架的技術(shù)供應(yīng)商，都鉚足了勁兒借 AI 之力希望重新劃定市場格局。

Sophon智能服務(wù)器SA3-23是北京比特大陸科技有限公司研發(fā)的一款深度學(xué)習(xí)服務(wù)器。該服務(wù)器是基于比特大陸最新研發(fā)的Sophon AI智能芯片BM1682開發(fā)的，專門為視頻監(jiān)控、互聯(lián)網(wǎng)圖像處理等多種應(yīng)用場景提供強大的深度學(xué)習(xí)加速能力，標準功能包括人臉檢測、人臉識別、人體監(jiān)測、非人檢測分類等。此服務(wù)器為 19 英寸標準 2U 服務(wù)器，內(nèi)置3個智能分析單元，包含 18 個BM1682 芯片，可以提供 54TFLOPs FP32的峰值計算力。搭載第三方算法可實現(xiàn) 90路視頻結(jié)構(gòu)化分析，不低于每秒 600 張人臉分析。

市場定位

Sophon智能服務(wù)器是比特大陸研發(fā)的一款高密度服務(wù)器，如下圖所示，該服務(wù)器應(yīng)用于人臉檢測、人體檢測、車輛檢測、非人檢測等安防場景。前端數(shù)據(jù)流進入服務(wù)器中，由服務(wù)器進行數(shù)據(jù)計算，對數(shù)據(jù)進行智能分析后，將結(jié)果傳遞給業(yè)務(wù)應(yīng)用層，應(yīng)用層根據(jù)結(jié)果給與相應(yīng)的反饋。

基于Sophon智能服務(wù)器可以構(gòu)建高性能計算平臺，提供圖片、視頻分析的端到端解決方案?；诒忍卮箨懽灾餮邪l(fā)的Sophon智能服務(wù)器可以應(yīng)用于多種應(yīng)用場景如人車分類及檢索、深度學(xué)習(xí)技術(shù)應(yīng)用、視頻結(jié)構(gòu)化技術(shù)應(yīng)用等對海量數(shù)據(jù)進行預(yù)處理。Sophon智能服務(wù)器系統(tǒng)應(yīng)用由三層架構(gòu)組成，包括前端媒體接入的感知層、智能云分析層、以及業(yè)務(wù)應(yīng)用層。

性能特點

Sophon智能服務(wù)器采用比特大陸自主研發(fā)的AI智能芯片BM1682，BM1682運行在SOC模式，每顆芯片集成4核Cortex-A53的處理器運行獨立的Linux操作系統(tǒng)，提供SDK控制TPU神經(jīng)網(wǎng)絡(luò)加速單元、H.264/H.265/Jpeg 硬件解碼單元、視頻后處理硬件單元。芯片間通過網(wǎng)絡(luò)連接形成集群，可提供超強的計算能力。

高性能：Sophon智能服務(wù)器單臺服務(wù)器最高可支持90路視頻結(jié)構(gòu)化、每秒約600張人臉圖片檢測分析。

高能效比：Sophon智能服務(wù)器基于高能效比的AI專用芯片，采用低功耗的 ARM 處理器作為主控制芯片，在提供超強算力的同時，降低了整機的功耗，提供了更高能效比的解決方案。主要面向數(shù)據(jù)中心及中小型邊緣節(jié)點，提供超強的視頻結(jié)構(gòu)化處理能力，滿足中小站點的智能化改造及數(shù)據(jù)中心的分布式部署訴求。

高計算密度：Sophon智能服務(wù)器是比特大陸自主研發(fā)的一款高密度算力服務(wù)器，內(nèi)部集成了多個高密度智能分析算力板，在單臺服務(wù)器2U空間里內(nèi)置多達18顆AI專用芯片BM1682，使得單位機架空間的計算密度得到極大提升，在同樣的計算能力下占用更小的機架空間，從而減少了在數(shù)據(jù)中心部署的總體擁有成本(TCO)。

高可擴展性：Sophon智能服務(wù)器之間采用分布式架構(gòu)，各服務(wù)器可通過10G網(wǎng)絡(luò)互聯(lián)，算力芯片通過網(wǎng)絡(luò)路由方式和控制板直連降低了數(shù)據(jù)轉(zhuǎn)發(fā)時延，在節(jié)省板卡空間的同時提升了服務(wù)器整體性能。

擁有統(tǒng)一的系統(tǒng)管理平臺可以根據(jù)業(yè)務(wù)彈性增加服務(wù)器，具備很好的可擴展性和可管理性。在海量計算需求的情況下，可采用多臺服務(wù)器堆疊集群部署的方式，服務(wù)器之間通過萬兆以太網(wǎng)互聯(lián)，實現(xiàn)在數(shù)據(jù)中心的可擴展性。支持統(tǒng)一的管理 Portal和管理服務(wù)，可以在算力云/資源池/算力集群/容器等多種環(huán)境下部署，具備良好的可擴展性和可管理性。

兼容性：Sophon智能服務(wù)器提供對外統(tǒng)一服務(wù)API(Zeus),Zeus是高密度服務(wù)器管理軟件，通過http協(xié)議即可管理系統(tǒng)所有的軟硬件信息。與多個應(yīng)用平臺兼容，各應(yīng)用平臺可根據(jù)REST API使用服務(wù)器功能以及集成不同的算法開發(fā)各自的應(yīng)用需求。已經(jīng)對接的算法廠家包括云從、以薩、考斯、?？?、千視通、百度、Seemmo等。

低功耗：Sophon智能服務(wù)器采用低功耗的自主研發(fā)TPU處理器BM1682作為主控制芯片，以超低功耗支撐超強算力。

低成本：Sophon智能服務(wù)器多個算力板高度集成，使得在同樣的計算能力下占用更小的機架空間、更少的電力功耗，可有效減少數(shù)據(jù)中心部署的成本。

推薦理由

AI在安防行業(yè)已經(jīng)得到了廣泛的應(yīng)用，既然談到“廣泛”，必然會有“前、后、左、右”之分，不同用戶，不同的對象，對AI應(yīng)用也會有不一樣的需求。就像當(dāng)年模擬攝像機接入DVS可以組成混合網(wǎng)絡(luò)監(jiān)控架構(gòu)類似，選擇組建AI監(jiān)控網(wǎng)絡(luò)時，也可以將IPC接入運行AI工作負載的服務(wù)器，按需采購不同“檔位”的AI服務(wù)器。以TPU方案出現(xiàn)的比特大陸SophonSA3智能服務(wù)器的出現(xiàn)，很好地終結(jié)了傳統(tǒng)服務(wù)器僅靠CPU+GPU和CPU+FPGA的異構(gòu)堆核時代，為行業(yè)客戶帶來了耳目一新的不同選擇。