近日,2022世界人工智能大會(huì)在上海舉行。本屆大會(huì)以“智聯(lián)世界,元生無(wú)界”為主題,探討了人工智能新技術(shù)、元宇宙,以及這些新賽道的融合場(chǎng)景及應(yīng)用。
隨著人工智能崛起,高通在人工智能領(lǐng)域積極布局,不僅包含人工智能芯片,還包括諸多軟件層面的應(yīng)用以及開(kāi)發(fā)平臺(tái),全面賦能人工智能行業(yè)。
“元宇宙是互聯(lián)網(wǎng)的未來(lái),也就是空間互聯(lián)網(wǎng)”。作為高通公司的總裁兼首席執(zhí)行官,帶著對(duì)行業(yè)的深刻洞察,安蒙對(duì)元宇宙抱有非常樂(lè)觀(guān)的看法。
誠(chéng)然,元宇宙幾乎能夠?yàn)楦鱾€(gè)行業(yè)帶來(lái)變革,因?yàn)樗且环N全新的體驗(yàn)。設(shè)想一下,在一個(gè)多維的虛擬世界中,它提供了高度沉浸式、可定制化,同時(shí)模糊了物理世界與數(shù)字世界的新體驗(yàn),這會(huì)發(fā)生什么?
以零售行業(yè)為例,基于元宇宙打造的全新空間以及顛覆式的體驗(yàn),會(huì)帶來(lái)更高的客戶(hù)忠誠(chéng)度;在開(kāi)發(fā)端,數(shù)字孿生會(huì)在元宇宙中越來(lái)越普及,產(chǎn)品研發(fā)、藥物治療效果、商業(yè)飛機(jī)性能監(jiān)測(cè)等等領(lǐng)域都能看到它的影子。
高通公司總裁兼首席執(zhí)行官安蒙
不妨再將腦洞打開(kāi)的更大一些,藝術(shù)領(lǐng)域能否與元宇宙碰撞呢?在沉浸式虛擬空間里,設(shè)計(jì)師、音樂(lè)家同樣能夠以全新的方式與受眾溝通。如今,雖然我們能夠想象到多種多樣的元宇宙應(yīng)用案例,但安蒙在演講中也提到,“元宇宙如何影響和改變行業(yè)、人們的生活,我們目前的理解只是冰山一角”。
沿著這樣的邏輯,我們不免會(huì)問(wèn),元宇宙的未來(lái)是星辰大海,那么,入口在哪里呢?
這正是問(wèn)題的關(guān)鍵,我們需要入口,它是連接物理世界和數(shù)字世界的通道。XR擴(kuò)展現(xiàn)實(shí)設(shè)備、增強(qiáng)現(xiàn)實(shí)、虛擬現(xiàn)實(shí)設(shè)備以及幾乎人手一部的智能手機(jī),甚至個(gè)人電腦都可以成為“入口”。
智能手表、智能家居等終端會(huì)成為元宇宙的物理鏈路。隨著網(wǎng)聯(lián)終端數(shù)量的持續(xù)增長(zhǎng),萬(wàn)物互聯(lián)逐步實(shí)現(xiàn)。這些終端產(chǎn)生的數(shù)據(jù)將會(huì)反哺、助力構(gòu)建元宇宙,元宇宙進(jìn)一步完善,再促進(jìn)不同形態(tài)的終端出現(xiàn),如此構(gòu)成了一個(gè)螺旋上升的曲線(xiàn)。
終端也好,入口也罷,它們有一個(gè)共同的稱(chēng)呼——邊緣側(cè)。邊緣側(cè)技術(shù)對(duì)元宇宙的發(fā)展至關(guān)重要。做個(gè)比喻,如果元宇宙是一個(gè)巨大的倉(cāng)庫(kù),邊緣側(cè)技術(shù)不突破,也只能望洋興嘆,倉(cāng)庫(kù)只能看,不能用。
為了進(jìn)一步闡述這個(gè)問(wèn)題,需要引出兩個(gè)概念加以對(duì)比:邊緣端和云端。云端的技術(shù)包括云計(jì)算、云端芯片,它的特點(diǎn)是性能強(qiáng)大。而邊緣端(邊緣芯片、邊緣計(jì)算、邊緣人工智能)的特點(diǎn)是使用場(chǎng)景眾多,而且不同場(chǎng)景對(duì)能耗也有需求。由此可以理解,邊緣端技術(shù)的部署更加復(fù)雜,同樣一個(gè)功能,放在智能手表上沒(méi)問(wèn)題,如果轉(zhuǎn)移到手機(jī)上,很可能要重新設(shè)計(jì)一遍。
所以,為何不把所有的邊緣端的計(jì)算全部移到云端,借助云端強(qiáng)大的芯片徹底解放邊緣端呢?
對(duì)此我們只能說(shuō),“想法很好,但可能做不到”。
首先,云計(jì)算面臨帶寬不足的問(wèn)題。雖然全球都在談5G,但實(shí)際情況是網(wǎng)絡(luò)傳輸?shù)乃俣群茈y趕上數(shù)據(jù)增長(zhǎng)的速度,網(wǎng)絡(luò)傳輸是一個(gè)大問(wèn)題。以無(wú)人駕駛汽車(chē)為例,高速行駛情況下,其響應(yīng)時(shí)間需要達(dá)到毫秒級(jí),此時(shí)任何網(wǎng)絡(luò)延遲都會(huì)造成嚴(yán)重后果。
另一個(gè)例子,波音787飛機(jī)每秒鐘產(chǎn)生5GB數(shù)據(jù),但是飛機(jī)與衛(wèi)星之間的傳輸速度無(wú)法處理如此大的數(shù)據(jù)量,把所有數(shù)據(jù)都交給云端處理、再返回明顯不現(xiàn)實(shí)。此時(shí),就不難理解邊緣側(cè)技術(shù)為何如此重要了——當(dāng)數(shù)據(jù)可以在本地(終端)處理,再與云端交互,那么以上問(wèn)題就會(huì)迎刃而解。
第二,邊緣側(cè)技術(shù)更加穩(wěn)定可靠。一個(gè)經(jīng)常用的案例是,當(dāng)沒(méi)有網(wǎng)絡(luò),而家里門(mén)鎖需要人臉識(shí)別打開(kāi),數(shù)據(jù)又存放在云端,此時(shí)只能等待了。但如果智能門(mén)鎖使用的是邊緣人工智能,部署邊緣芯片,即便沒(méi)有網(wǎng)絡(luò)也不耽誤掃臉開(kāi)門(mén),這便是可靠性。
第三點(diǎn)是安全原因。對(duì)于某些數(shù)據(jù),用戶(hù)不愿意放在云端,存儲(chǔ)在本地更加放心。
至此,元宇宙、邊緣側(cè)技術(shù)和人工智能就產(chǎn)生了關(guān)聯(lián)。在未來(lái),終端(邊緣側(cè))使用的人工智能芯片,具備的算力,幾乎完全決定了用戶(hù)體驗(yàn)。這便是我們不厭其煩的強(qiáng)調(diào)“邊緣創(chuàng)新”的原因。用高通總裁兼首席執(zhí)行官的說(shuō)法就是,“人工智能對(duì)于塑造用戶(hù)體驗(yàn)至關(guān)重要,因?yàn)樵钪嫘枰獙W(xué)習(xí)和適應(yīng)不斷變化的環(huán)境及用戶(hù)偏好”。
也許正是深刻洞察到了這一點(diǎn),高通一直在終端智能領(lǐng)域發(fā)力,積極賦能各類(lèi)廠(chǎng)商、開(kāi)發(fā)者。
經(jīng)過(guò)十多年在人工智能領(lǐng)域的深耕,高通已經(jīng)成為終端智能領(lǐng)域的全球領(lǐng)軍企業(yè)。幾乎已經(jīng)是家喻戶(hù)曉的“驍龍XR”平臺(tái),就是專(zhuān)門(mén)為滿(mǎn)足空間互聯(lián)網(wǎng)需求而設(shè)計(jì)。作為先進(jìn)的邊緣側(cè)平臺(tái),目前已經(jīng)有超過(guò)50款基于驍龍XR的商用設(shè)備發(fā)布。齊亞德·阿斯加爾(Ziad Asghar)是高通公司產(chǎn)品管理副總裁,在他看來(lái),人工智能是一種水平化賦能技術(shù),能夠應(yīng)用于驍龍支持的各個(gè)領(lǐng)域,比如把人工智能用于語(yǔ)音、音頻。
前文提到,邊緣側(cè)人工智能既要良好的計(jì)算性能,又對(duì)功耗有更高的要求,畢竟它不是云計(jì)算中心。而就在去年底,第七代高通人工智能引擎推出,在性能-功耗能效上實(shí)現(xiàn)了新突破。根據(jù)阿斯加爾介紹,從第六代高通人工智能引擎到第七代,在相同功耗下人工智能能力提升了一倍。Hexagon處理器作為第七代人工智能引擎的核心組成部分,它由標(biāo)量、張量和矢量加速器組成,并且三個(gè)加速器享用統(tǒng)一的共享內(nèi)存,根據(jù)報(bào)道,第七代人工智能引擎推理速度比上一代提高了3倍。
在邊緣側(cè)部署人工智能,面臨的另一個(gè)難題是終端種類(lèi)繁雜,并且某些時(shí)候需要協(xié)同工作。比如智能耳機(jī)和智能手機(jī)。不同終端,其運(yùn)行要求的性能、功耗大不相同,因此解決方案必須要支持從500毫瓦~15瓦特、甚至200瓦特功耗區(qū)域。另一方面,不同終端產(chǎn)品所需的深度學(xué)習(xí)架構(gòu)差異也非常大。比如面向移動(dòng)領(lǐng)域可能需要使用生成模型,面向計(jì)算領(lǐng)域需要使用Transformer模型,面向汽車(chē)ADAS需要激光雷達(dá)模型。與此同時(shí),特性需求也大不相同。汽車(chē)和XR需要不同的并發(fā)環(huán)境,因?yàn)樗鼈冃枰С指嗟牟l(fā)場(chǎng)景。此外,所需數(shù)據(jù)類(lèi)型也截然不同。
在這種情況下,高通的硬件是如何解決問(wèn)題的?
通過(guò)調(diào)整Hexagon處理器內(nèi)的加速器和內(nèi)存組件,拼接多個(gè)Hexagon處理器,比如面向計(jì)算、云端、邊緣和汽車(chē)領(lǐng)域擴(kuò)展時(shí),可以通過(guò)更多Hexagon處理器協(xié)同工作以擴(kuò)展提升性能。這帶來(lái)的好處是,產(chǎn)品既可以面向毫瓦級(jí)功耗需求,也可以面向微瓦級(jí)功耗需求。隨著高通將其引入更多高性能終端,上述功耗優(yōu)勢(shì)能夠規(guī)?;瘮U(kuò)展,形成驍龍的獨(dú)特優(yōu)勢(shì)。
上文所列都是高通利用其硬件優(yōu)勢(shì)賦能邊緣側(cè)的創(chuàng)新舉措。另一方面,相對(duì)于硬件,高通不久前發(fā)布了重磅產(chǎn)品——人工智能軟件棧。該產(chǎn)品的出現(xiàn),有望打破傳統(tǒng)的人工智能開(kāi)發(fā)模式。
多場(chǎng)景、多終端開(kāi)發(fā)始終是在邊緣側(cè)部署人工智能的瓶頸。同一個(gè)功能需要在不同終端下重復(fù)開(kāi)發(fā),不僅是消耗開(kāi)發(fā)人員的精力,同時(shí)限制了它們的創(chuàng)造力,因?yàn)楦嗟臅r(shí)間本可以用來(lái)專(zhuān)注產(chǎn)品創(chuàng)新。但是人工智能軟件棧的出現(xiàn)顛覆了這一老舊開(kāi)發(fā)模式。
作為人工智能開(kāi)發(fā)“全家桶”,一言以蔽之,人工智能軟件??梢詫?shí)現(xiàn)“一次開(kāi)發(fā),多終端使用”。
這款產(chǎn)品覆蓋了當(dāng)前高通所有產(chǎn)品線(xiàn),支持所有框架。包含TensorFlow Micro、Tensor Flow、Pytorch和ONNX。支持所有人工智能runtimes,包括高通神經(jīng)網(wǎng)絡(luò)處理SDK和高通人工智能引擎Direct。
人工智能軟件棧能夠讓用戶(hù)可以根據(jù)實(shí)際需求進(jìn)行模型開(kāi)發(fā)和優(yōu)化。例如,在智能手機(jī)領(lǐng)域開(kāi)發(fā)的軟件可以便捷地?cái)U(kuò)展至物聯(lián)網(wǎng)或任何其他產(chǎn)品線(xiàn)。
除了在硬件、軟件上賦能開(kāi)發(fā)者,高通還在模型壓縮技術(shù)上投入、從神經(jīng)網(wǎng)絡(luò)中移除冗余部分、打造更先進(jìn)的編譯技術(shù)等等。這些工作,有助于提高模型能效,幫助客戶(hù)建立優(yōu)勢(shì)。
通過(guò)使用人工智能模型增效工具包的無(wú)數(shù)據(jù)量化功能,模型僅損失不到1%的精度,就能夠?qū)⑵鋸腇P32模型轉(zhuǎn)化為INT8模型,能效提升16倍。
通過(guò)與谷歌就Google Vertex人工智能解決方案的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索展開(kāi)合作,在移動(dòng)端的自然語(yǔ)言處理方面,高通在不影響精度的情況下將時(shí)延降低了13%。此外,其還將汽車(chē)領(lǐng)域中的物體檢測(cè)這一功能,時(shí)延改善13%,并且精度提升1.3%,對(duì)于特定的汽車(chē)應(yīng)用場(chǎng)景,這是巨大的優(yōu)勢(shì)。
在人工智能領(lǐng)域,大眾對(duì)邊緣側(cè)技術(shù)了解較少,反而更多關(guān)注點(diǎn)在云端。這主要是因?yàn)榻K端場(chǎng)景太多,和用戶(hù)太近,反而產(chǎn)生了“只緣身在此山中”效果。然而,從全球市場(chǎng)來(lái)看,僅是邊緣人工智能芯片這個(gè)領(lǐng)域,大有超過(guò)云芯片市場(chǎng)的趨勢(shì)。
全球技術(shù)市場(chǎng)咨詢(xún)公司ABI Research的數(shù)據(jù)顯示,預(yù)計(jì)到2025年,邊緣人工智能芯片組市場(chǎng)的收入將達(dá)到122億美元,云人工智能芯片組市場(chǎng)的收入將達(dá)到119億美元。邊緣人工智能芯片組市場(chǎng)將超過(guò)云人工智能芯片組市場(chǎng)。
隨著人工智能技術(shù)的發(fā)展和在各行各業(yè)的應(yīng)用普及,企業(yè)需要解決越來(lái)越多有關(guān)的數(shù)據(jù)隱私、電源效率、低延遲和強(qiáng)大的設(shè)備上計(jì)算性能等問(wèn)題,而這些“難題”,成為了推動(dòng)邊緣側(cè)創(chuàng)新的原動(dòng)力。
高通公司總裁兼首席執(zhí)行官之所以敢說(shuō)“高通和驍龍,已成為通往元宇宙的鑰匙”,一定程度上是基于高通在邊緣側(cè)人工智能這一元宇宙入口多年的深耕和布局,驍龍平臺(tái)和一系列賦能人工智能的硬件、軟件工具,正在賦能其他廠(chǎng)商、合作伙伴以及開(kāi)發(fā)者,提高他們的開(kāi)發(fā)效率和創(chuàng)新能力。