迎九

近日，Habana Labs宣布美國(guó)圣地亞哥超算中心為Voyager研究計(jì)劃選擇了Habana Lab AI 加速器。后者是典型的ASIC（專(zhuān)用芯片），但是可與英偉達(dá)的GPU在AI訓(xùn)練市場(chǎng)一比高低。為何Habana Lab AI 加速器有如此強(qiáng)大的威力？未來(lái)的超算架構(gòu)會(huì)青睞哪種AI芯片？值此機(jī)會(huì)，電子產(chǎn)品世界記者采訪了Habana Labs中國(guó)區(qū)總經(jīng)理于明揚(yáng)先生。

1 用于Voyager研究計(jì)劃的Habana Lab AI加速器

據(jù)悉，超微 （Supermicro）提供內(nèi)置Habana Gaudi AI訓(xùn)練和Goya AI推理加速器的高性能計(jì)算系統(tǒng)，將用于加州大學(xué)圣地亞哥分校圣地亞哥超級(jí)計(jì)算機(jī)中心（SDSC）的Voyager超級(jí)計(jì)算機(jī)，以提供高性能的AI計(jì)算能力，計(jì)劃于2021年秋季投入使用。

Voyager將致力于推進(jìn)跨學(xué)科和工程領(lǐng)域的人工智能研究。其采用了Habana獨(dú)特的互聯(lián)技術(shù)，用336片Gaudi加速器有效地提升了AI訓(xùn)練能力，這種架構(gòu)很好地?cái)U(kuò)展了大型超級(jí)計(jì)算機(jī)的訓(xùn)練應(yīng)用。Gaudi是目前業(yè)界唯一內(nèi)置集成10個(gè)支持RoCE v2（RDMA over Converged Ethernet）100G以太網(wǎng)端口的AI處理器，可以有效提升擴(kuò)展的靈活性，避免擴(kuò)展能力受限于吞吐量。Voyager系統(tǒng)還采用了16片Habana Goya處理器用于AI推理模型。

之所以采用Habana的芯片，因?yàn)樾士梢源鬄樘嵘?。例如Habana與AWS合作時(shí)，AWS稱(chēng)在AWS EC2實(shí)例上，8卡的Gaudi 解決方案可以在TensorFlow上每秒處理1.2萬(wàn)張圖像訓(xùn)練ResNet-50模型。

AI處理業(yè)務(wù)中，既有GPU、FPGA，也有AI專(zhuān)用芯片（例如Habana的ASIC），他們各有所長(zhǎng)，因此異構(gòu)將成超算主流。

● GPU表現(xiàn)的是靈活性，在靈活性的基礎(chǔ)上同時(shí)具有性能的優(yōu)勢(shì)。

● FPGA擅長(zhǎng)整形與定制化。首先在整形表現(xiàn)了很好的性能，另外在靈活性與定制化之間選擇了一個(gè)平衡。但是，F(xiàn)PGA有較大的應(yīng)用門(mén)檻——如果客戶(hù)想通過(guò)FPGA深度定制化實(shí)現(xiàn)加速，可能要對(duì)于FPGA的Verilog、VHDL語(yǔ)言有深入的了解。

● 以Habana為代表的ASIC路線。ASIC在模型加速過(guò)程中可以實(shí)現(xiàn)很好的定制化加速；同時(shí)因?yàn)镠abana對(duì)于計(jì)算架構(gòu)有深入的理解，又最大限度地保持了靈活性。另外，在很多應(yīng)用場(chǎng)景下更接近于GPU的使用習(xí)慣，但性能又要比GPU有很大的提升。

因此，在未來(lái)在異構(gòu)的場(chǎng)景中，GPU、FPGA和ASIC會(huì)承擔(dān)不同的角色，很可能在一個(gè)大型的計(jì)算集群中承擔(dān)不同的功能。

例如，在一些要求高精度的科學(xué)計(jì)算中，GPU會(huì)發(fā)揮其優(yōu)勢(shì)。FPGA的64位浮點(diǎn)計(jì)算的能力很強(qiáng)，在整形計(jì)算中的能力以及對(duì)于某些計(jì)算中的一些定制化的功能，有可能幫助其在流媒體的預(yù)處理、一些格式的轉(zhuǎn)換中表現(xiàn)出一定的優(yōu)勢(shì)。而對(duì)于典型的AI應(yīng)用，ASIC架構(gòu)方案有望實(shí)現(xiàn)更高效的性能，以幫助客戶(hù)降低訓(xùn)練的成本，提升效率。

因此可以預(yù)言，在超算中，異構(gòu)是未來(lái)的一個(gè)趨勢(shì)。超算中很可能會(huì)選擇X86的架構(gòu)作為整個(gè)計(jì)算、業(yè)務(wù)的調(diào)度和管理，所以X86架構(gòu)會(huì)存在。同時(shí)GPU會(huì)在科學(xué)運(yùn)算、高精度浮點(diǎn)運(yùn)算中起到重要的角色。再有，超算對(duì)于未來(lái)AI應(yīng)用有非常強(qiáng)的需求，這種應(yīng)用中有可能會(huì)使用ASIC解決方案，諸如Habana ASIC解決架構(gòu)方案，這樣的組合給客戶(hù)帶來(lái)最大的靈活性，同時(shí)也可以助力超算最大限度地提升性能，而且降低其運(yùn)營(yíng)成本。

異構(gòu)架構(gòu)的應(yīng)用挑戰(zhàn)是如何在不同架構(gòu)上部署自己和客戶(hù)的業(yè)務(wù)。因此，如何提供這種融合的管理平臺(tái)，幫助客戶(hù)能自動(dòng)地把其需求部署到不同的架構(gòu)中，可能是一大關(guān)鍵。