国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

ChatGPT背后的黑科技,主宰高算力的CPO技術(shù)

2023-03-21 05:31:42郭勇
電腦報(bào) 2023年10期
關(guān)鍵詞:算力數(shù)據(jù)中心芯片

郭勇

ChatGPT引爆算力需求

作為人工智能三大核心要素之一,算力也被譽(yù)為人工智能“發(fā)動(dòng)機(jī)”。

ChatGPT用戶數(shù)快速增長,需求量火爆引發(fā)宕機(jī)。ChatGPT自發(fā)布以來用戶數(shù)量快速增長。在龐大用戶群涌入的情況下,ChatGPT服務(wù)器2天宕機(jī)5次,火爆程度引人注目的同時(shí)也催生了對算力基礎(chǔ)設(shè)施建設(shè)更高的要求。以ChatGPT為例,其在模型訓(xùn)練階段每次升級需要投入約3422萬元,該筆投入相較于運(yùn)營階段來說規(guī)模較小。在模型上線運(yùn)營階段,機(jī)構(gòu)測算每億活躍用戶將帶來13.5EFlops的算力需求,需要6.9萬臺NVIDIADGXA10080G服務(wù)器支撐。

根據(jù)中國信通院數(shù)據(jù),2021年全球計(jì)算設(shè)備算力總規(guī)模達(dá)到615EFlops,其中超算算力規(guī)模為14EFlops。換而言之,在每個(gè)用戶每天收到1500字回答的情況下,以2021年全球超算算力的規(guī)模,僅能支撐ChatGPT最多擁有1億日均上線人數(shù)。假設(shè)全球6家科技巨頭能夠在未來3年內(nèi)各自擁有一款活躍人數(shù)2億的ChatGPT類應(yīng)用,則有望帶來162EFlops超算算力需求,超算算力需求較目前提升空間超過10倍。

打破算力瓶頸的CPO技術(shù)

不同服務(wù)器之間需要頻繁的大量數(shù)據(jù)交換,數(shù)據(jù)互聯(lián)的帶寬往往會(huì)限制整體任務(wù)的性能,這成為數(shù)據(jù)中心引入超高帶寬基于硅光子的數(shù)據(jù)互聯(lián)的主要理由。而CPO共同封裝光子是業(yè)界公認(rèn)未來高速率產(chǎn)品形態(tài),是未來解決高速光電子的散熱和功耗問題的最優(yōu)解決方案之一。

共封裝光學(xué)CPO(co-packagedoptics),指的是將光引擎和交換芯片共同封裝在一起的光電共封裝。較之傳統(tǒng)方案中(實(shí)現(xiàn)光電轉(zhuǎn)換功能的)可插拔光模塊插在交換機(jī)前面板的形式,CPO方案顯著縮短了交換芯片和(實(shí)現(xiàn)光電轉(zhuǎn)換功能的)光引擎之間的距離,使得損耗減少,高速電信號能夠高質(zhì)量地在兩者之間傳輸,同時(shí)提升了集成度并能夠降低功耗,整體優(yōu)勢顯著。在最新的OCP峰會(huì)上,英偉達(dá)代表表示AI所需的網(wǎng)絡(luò)連接帶寬將增加32倍,當(dāng)前光模塊速率已無法滿足這一帶寬提升需求。繼續(xù)使用光模塊會(huì)帶來成本翻倍和20%-25%的額外功耗。為此需要新的激光器和調(diào)制器設(shè)計(jì),并且CPO方案可能將功耗降低50%。

提前布局的科技巨頭

技術(shù)和經(jīng)濟(jì)上的雙重優(yōu)勢,讓科技巨頭們爭相涌入CPO賽道,目前AWS、微軟、Meta、谷歌等云計(jì)算巨頭,思科、博通、Marvell、IBM、英特爾、英偉達(dá)、AMD、臺積電、格芯、Ranovus等網(wǎng)絡(luò)設(shè)備龍頭及芯片龍頭,均前瞻性地布局CPO相關(guān)技術(shù)及產(chǎn)品,并推進(jìn)CPO標(biāo)準(zhǔn)化工作——

在數(shù)據(jù)中心領(lǐng)域,CPO技術(shù)可以實(shí)現(xiàn)更高的數(shù)據(jù)密度和更快的數(shù)據(jù)傳輸速度,可以應(yīng)用于高速網(wǎng)絡(luò)交換、服務(wù)器互聯(lián)和分布式存儲等領(lǐng)域。例如,F(xiàn)acebook在其自研的數(shù)據(jù)中心網(wǎng)絡(luò)FabricAggregator中采用了CPO技術(shù),將光模塊和芯片封裝在同一個(gè)封裝體中,從而提高了網(wǎng)絡(luò)的速度和質(zhì)量。

在云計(jì)算領(lǐng)域,CPO技術(shù)可以實(shí)現(xiàn)高速云計(jì)算和大規(guī)模數(shù)據(jù)處理。例如,微軟在其云計(jì)算平臺Azure中采用了CPO技術(shù),將光模塊和芯片封裝在同一塊PCB板上,并使用微型化的線纜連接光模塊和芯片。

在5G通信領(lǐng)域,CPO技術(shù)可以實(shí)現(xiàn)更快的無線數(shù)據(jù)傳輸和更穩(wěn)定的網(wǎng)絡(luò)連接。例如,華為在其5G通信系統(tǒng)中采用了CPO技術(shù),將收發(fā)器和芯片封裝在同一個(gè)封裝體中,從而實(shí)現(xiàn)了高速、高密度、低功耗的通信。

爭奪算力霸權(quán)時(shí)代話語權(quán)

AIGC熱潮驅(qū)動(dòng)下,全球科技龍頭的軍備競賽已經(jīng)打響,CPO正站在風(fēng)口的風(fēng)口,既處在未來“卡脖子”數(shù)據(jù)傳輸通道,有著大廠們的集體背書,也有多個(gè)大賽道的加持,這背后除需要企業(yè)投入資源競爭外,更需要管理層的支持。

2020年,業(yè)界開始對發(fā)展CPO標(biāo)準(zhǔn)形成共識。國外COBO和OIF等行業(yè)組織成立了工作組,國內(nèi)中科院計(jì)算所牽頭成立CCITA聯(lián)盟(中國計(jì)算機(jī)互聯(lián)技術(shù)聯(lián)盟),為制訂前沿互聯(lián)技術(shù)標(biāo)準(zhǔn)籌備相關(guān)工作?,F(xiàn)階段,國內(nèi)外CPO標(biāo)準(zhǔn)進(jìn)程基本相近,均已初步完成規(guī)格草案的撰寫。CCITA聯(lián)盟于2021年5月啟動(dòng)在中國電子標(biāo)準(zhǔn)化協(xié)會(huì)的國內(nèi)CPO標(biāo)準(zhǔn)立項(xiàng)工作,聯(lián)合了超過40家會(huì)員廠商,規(guī)劃交換機(jī)及網(wǎng)卡CPO應(yīng)用場景的規(guī)格標(biāo)準(zhǔn)。

不過我國光芯片產(chǎn)業(yè)起步較晚,技術(shù)實(shí)力與國外企業(yè)相比有一定差距,國內(nèi)相關(guān)企業(yè)僅在2.5G和10G光芯片領(lǐng)域?qū)崿F(xiàn)核心技術(shù)的掌握,根據(jù)ICC的數(shù)據(jù),2.5G及以下速率光芯片國產(chǎn)化率超過90%;10G光芯片國產(chǎn)化率約60%,II-VI、Lumentum等外企牢牢占據(jù)高功率光芯片主要市場份額,而近年來隨著天孚通信、新易盛、聯(lián)特科技等布局“CPO技術(shù)”的核心企業(yè)崛起,我國有望在硅光、CPO等前沿技術(shù)領(lǐng)域取得突破。

猜你喜歡
算力數(shù)據(jù)中心芯片
多方求解智能時(shí)代算力挑戰(zhàn)
這個(gè)第二不一般
都市人(2023年11期)2024-01-12 05:55:06
衛(wèi)星通信在算力網(wǎng)絡(luò)中的應(yīng)用研究
中國電信董事長柯瑞文:算力成為數(shù)字經(jīng)濟(jì)的主要生產(chǎn)力
酒泉云計(jì)算大數(shù)據(jù)中心
民航綠色云數(shù)據(jù)中心PUE控制
電子測試(2018年11期)2018-06-26 05:56:24
芯片測試
多通道采樣芯片ADS8556在光伏并網(wǎng)中的應(yīng)用
基于云計(jì)算的交通運(yùn)輸數(shù)據(jù)中心實(shí)現(xiàn)與應(yīng)用
Overlay Network技術(shù)在云計(jì)算數(shù)據(jù)中心中的應(yīng)用
河南科技(2014年11期)2014-02-27 14:16:49
鄂伦春自治旗| 永善县| 九寨沟县| 原平市| 玉田县| 烟台市| 司法| 西畴县| 富阳市| 巴楚县| 灵璧县| 天水市| 东港市| 安义县| 长寿区| 札达县| 贵德县| 洛川县| 东乡族自治县| 黄龙县| 龙里县| 廉江市| 安阳市| 金山区| 阳城县| 名山县| 阜新市| 万宁市| 右玉县| 普安县| 宁乡县| 酒泉市| 齐齐哈尔市| 龙陵县| 皮山县| 平遥县| 丹阳市| 尉氏县| 徐闻县| 禹城市| 南通市|