清華大學(xué)電子系 蘇光大

當(dāng)前，非CPU、GPU的新型AI芯片的發(fā)展令人矚目。谷歌的AlphaGo內(nèi)置AI芯片TPU，在人機(jī)大賽中戰(zhàn)勝了著名棋手李世石，展示了AI芯片的非凡能力。北京寒武紀(jì)科技有限公司、華為公司、北京比特大陸科技有限公司、北京地平線信息技術(shù)有限公司、深圳云天勵(lì)飛公司的AI芯片得到了廣泛的應(yīng)用。人工智能芯片也應(yīng)用于人臉識(shí)別，取得了驕人業(yè)績(jī)。更多的公司也把AI芯片作為自己的發(fā)展方向。

AI芯片是執(zhí)行人工智能算法的芯片，隨著AI算力需求的飆升，AI芯片面臨馮·諾伊曼“內(nèi)存墻”的問題進(jìn)一步凸顯。雖然AI芯片計(jì)算資源豐富，但存儲(chǔ)體數(shù)據(jù)搬運(yùn)效率低下，導(dǎo)致了計(jì)算效率下降。顯然，推倒“內(nèi)存墻”，也是AI芯片發(fā)展的一個(gè)“金蘋果”式的目標(biāo)。

眾所周知，芯片的發(fā)展有兩大關(guān)鍵技術(shù)，一個(gè)是工藝技術(shù)，另一個(gè)是體系架構(gòu)。摩爾定律是半導(dǎo)體行業(yè)工藝發(fā)展的一個(gè)著名定律，經(jīng)過黃金發(fā)展時(shí)期之后，現(xiàn)在工藝水平的發(fā)展遇到困難，發(fā)展放緩已成為不爭(zhēng)的事實(shí)。順勢(shì)而上，架構(gòu)創(chuàng)新則進(jìn)入了黃金發(fā)展時(shí)期。

清華大學(xué)發(fā)布了類腦計(jì)算芯片“天機(jī)芯”的研究成果。該芯片是面向人工智能的異構(gòu)融合類腦計(jì)算芯片?；诖搜芯砍晒恼撐摹懊嫦蛉斯ねㄓ弥悄艿漠悩?gòu)天機(jī)芯片架構(gòu)”（Towards artificial general intelligence with hybrid Tianjic chip architecture）作為封面文章在2019年8月1日的《自然》（Nature）上發(fā)表。天機(jī)芯片采用28nm工藝、存算一體技術(shù)，支持多種不同AI算法。具有高速度、高性能、低功耗的特點(diǎn)。采用28nm制造工藝卻達(dá)到了世界級(jí)水平，存算一體技術(shù)功不可沒，這個(gè)成果足以說明并行體系架構(gòu)的重要性。

內(nèi)存計(jì)算優(yōu)于硬盤計(jì)算，二維內(nèi)存計(jì)算優(yōu)于一維內(nèi)存計(jì)算。顯然，發(fā)展二維內(nèi)存計(jì)算，是當(dāng)前計(jì)算模式的重要發(fā)展方向。清華大學(xué)提出了2D-PP on N-M的計(jì)算模式（2D Pipeline Processing On Neighborhood Memory 基于鄰域存儲(chǔ)體的二維流計(jì)算)，這是一種二維內(nèi)存計(jì)算模式，該模式采用了存儲(chǔ)芯片的堆疊、裂變、不完全輪換矩陣技術(shù)，以及2D-PP技術(shù)。其最大優(yōu)勢(shì)在于算法、存儲(chǔ)、處理具有二維數(shù)據(jù)結(jié)構(gòu)的同一性和并行性，從而改善了馮·諾依曼瓶頸（即馮·諾伊曼“內(nèi)存墻”），實(shí)現(xiàn)了高速的二維流水處理。

賽靈思公司新推出的ACAP自適應(yīng)計(jì)算加速平臺(tái)（Adaptive Compute Acceleration Platform），這是一種多AI核異構(gòu)結(jié)構(gòu)，在優(yōu)化數(shù)據(jù)搬運(yùn)路線與近內(nèi)存計(jì)算方面取得了顯著性進(jìn)展。同時(shí)，賽靈思公司采用堆疊硅片互聯(lián)技術(shù)將高帶寬存儲(chǔ)器HBM DRAM與FPGA 邏輯緊密耦合在一個(gè)封裝內(nèi)，2019年實(shí)現(xiàn)16GB HBM FPGA批量生產(chǎn)。

可以說，AI芯片的技術(shù)進(jìn)步和應(yīng)用拓展都異常迅猛。在AI芯片發(fā)展的過程中，不僅要關(guān)注馮·諾伊曼“內(nèi)存墻”問題，還要注意AI芯片運(yùn)算精度問題、編程的生態(tài)環(huán)境問題。

眾所周知，芯片的精度有雙精、單精、半精或8bit精度的。8bit精度的AI芯片對(duì)AI算法帶來的負(fù)面影響有多大？即便用8bit的數(shù)據(jù)去訓(xùn)練，也會(huì)出現(xiàn)負(fù)面影響。至于編程生態(tài)問題，GPU的CUDA編程工具、賽靈思的FPGA編程工具都是值得我們學(xué)習(xí)的。

考量算力，不僅僅要考量人工智能芯片的算力，還要考量搭載人工智能芯片的人工智能硬件系統(tǒng)的算力。一般來說，人工智能硬件系統(tǒng)的算力要小于或等于人工智能芯片的算力。如果人工智能芯片的應(yīng)用頻繁存在馮·諾依曼“內(nèi)存墻”問題，其算力將大打折扣。由此看來，僅僅強(qiáng)調(diào)AI芯片的算力是不全面的。

綜上所述，AI芯片還在不斷的發(fā)展。在本專題中，具有AI芯片的4家公司發(fā)表了在AI芯片方面的論文，值得大家分享。