儲浩+呂萬里
【摘 要】云橋數(shù)據(jù)庫一體機(jī),具有超強(qiáng)的處理性能、無限的線性擴(kuò)展能力、高IOPS和高可用性等特點。首先簡要介紹云橋數(shù)據(jù)庫一體機(jī)的軟硬件平臺的體系結(jié)構(gòu),然后通過案例詳細(xì)闡述了產(chǎn)品的性能,為運(yùn)營商建設(shè)業(yè)務(wù)系統(tǒng)的數(shù)據(jù)處理架構(gòu)提供了另一種思路。
【關(guān)鍵詞】數(shù)據(jù)庫一體機(jī) Infiniband 移動業(yè)務(wù)系統(tǒng) 大數(shù)據(jù) 性能測試
中圖分類號:TP392 文獻(xiàn)標(biāo)識碼:B 文章編號:1006-1010(2014)-13-0033-05
1 引言
隨著通信技術(shù)的迅猛發(fā)展和網(wǎng)絡(luò)規(guī)模的不斷擴(kuò)大,用戶業(yè)務(wù)的需求持續(xù)增長,且出現(xiàn)了多樣性的需求變化。運(yùn)營商數(shù)據(jù)流量的顯著增長,對業(yè)務(wù)系統(tǒng)的數(shù)據(jù)存儲和分析能力提出了新的要求。隨著X86架構(gòu)在可靠性、穩(wěn)定性和容錯能力等方面的進(jìn)步,以及在成本、橫向擴(kuò)容等方面的優(yōu)勢,電信運(yùn)營商采用的小型機(jī)+存儲的傳統(tǒng)架構(gòu)正在向X86架構(gòu)轉(zhuǎn)變。同時Infiniband技術(shù)作為當(dāng)前主流的高性能計算機(jī)互聯(lián)技術(shù)之一,是業(yè)界追求高性能、高帶寬、高效率、低功耗的典范式互聯(lián)解決方案。南京斯坦德云科技股份有限公司生產(chǎn)的基于X86架構(gòu)和Infiniband技術(shù)的云橋數(shù)據(jù)庫一體機(jī),可為電信運(yùn)營商提供強(qiáng)大且可橫向擴(kuò)展的數(shù)據(jù)存儲、處理能力。
2 云橋數(shù)據(jù)庫一體機(jī)的體系結(jié)構(gòu)
云橋數(shù)據(jù)庫一體機(jī)由計算節(jié)點(PC Server)、存儲節(jié)點和網(wǎng)絡(luò)節(jié)點3大部分構(gòu)成,采用Infiniband技術(shù)進(jìn)行各節(jié)點的互聯(lián),并結(jié)合高速緩存技術(shù),從硬件、操作系統(tǒng)和ORACLE數(shù)據(jù)庫軟件等方面進(jìn)行了整體適配和優(yōu)化。該一體機(jī)結(jié)構(gòu)采用了全冗余設(shè)計,解決了傳統(tǒng)數(shù)據(jù)庫架構(gòu)在IO、網(wǎng)絡(luò)帶寬和擴(kuò)展性等方面的瓶頸問題。云橋數(shù)據(jù)庫一體機(jī)擁有1/4、1/2和全配等產(chǎn)品系列,其中最低的1/4配置由2臺計算節(jié)點、3臺存儲節(jié)點和2臺網(wǎng)絡(luò)節(jié)點組成,最高滿配的配置由8臺計算節(jié)點、14臺存儲節(jié)點和2臺網(wǎng)絡(luò)節(jié)點組成。產(chǎn)品采用“交鑰匙”的一體機(jī)交付模式,簡化了系統(tǒng)部署、調(diào)試的過程。云橋數(shù)據(jù)庫一體機(jī)體系結(jié)構(gòu)如圖1所示。
圖1 云橋數(shù)據(jù)庫一體機(jī)體系結(jié)構(gòu)
下面將從硬件平臺和軟件平臺2方面對云橋數(shù)據(jù)庫一體機(jī)的體系結(jié)構(gòu)進(jìn)行描述。
2.1 硬件平臺
云橋數(shù)據(jù)庫一體機(jī)的硬件平臺主要由配置HCA卡的PC Server、Infiniband網(wǎng)絡(luò)交換機(jī)和云橋高速存儲系統(tǒng)3大硬件節(jié)點組成。
(1)云橋高速存儲系統(tǒng)是云橋數(shù)據(jù)庫一體機(jī)的核心硬件部件,它創(chuàng)新地將Infiniband技術(shù)和存儲協(xié)議相結(jié)合,是一款4U、45盤位的采用SRP存儲協(xié)議的Infiniband磁盤陣列。云橋高速存儲系統(tǒng)內(nèi)嵌定制的Linux操作系統(tǒng),提供1~2個40Gbps QDR Infiniband主機(jī)通道,支持SAS、SATA和SSD存儲介質(zhì),可插入6塊智能PCI-E存儲卡。45塊磁盤陣列負(fù)責(zé)活動性較低的數(shù)據(jù)的存儲和RAID備份,智能PCI-E存儲卡作為高速緩存空間,為運(yùn)營商業(yè)務(wù)系統(tǒng)的熱點數(shù)據(jù)提供高效的數(shù)據(jù)讀取性能。存儲節(jié)點根據(jù)實際需求可以橫向擴(kuò)展。
(2)PC Server作為云橋數(shù)據(jù)庫一體機(jī)的計算節(jié)點,負(fù)責(zé)運(yùn)營商業(yè)務(wù)系統(tǒng)的訪問和任務(wù)調(diào)度。計算節(jié)點內(nèi)嵌定制的Linux操作系統(tǒng),通過PCI-E 3.0的插槽插入HCA卡,接入Infiniband網(wǎng)絡(luò),實現(xiàn)存儲數(shù)據(jù)的高速存取和處理數(shù)據(jù)的功能。用戶可以根據(jù)自身喜好選擇不同品牌的X86服務(wù)器,具備高兼容性的特性。
(3)Infiniband網(wǎng)絡(luò)交換機(jī),每端口提供40Gbps的速率,將其他節(jié)點組成一個出色的可擴(kuò)展的網(wǎng)絡(luò)架構(gòu),實現(xiàn)云橋數(shù)據(jù)庫一體機(jī)的數(shù)據(jù)高速傳輸?shù)墓δ堋?/p>
2.2 軟件平臺
云橋數(shù)據(jù)庫的軟件平臺由ORACLE數(shù)據(jù)庫、定制的Linux操作系統(tǒng)、并行計算技術(shù)和系統(tǒng)管理軟件組成。其特點包括:
(1)采用商業(yè)版的ORACLE 11g數(shù)據(jù)庫軟件作為關(guān)系數(shù)據(jù)庫的管理系統(tǒng),實現(xiàn)RAC集群和數(shù)據(jù)存儲管理功能。
(2)操作系統(tǒng)基于centos定制,實現(xiàn)對Infiniband技術(shù)的支持和應(yīng)用。
(3)采用RDMA技術(shù)并優(yōu)化程序,實現(xiàn)數(shù)據(jù)傳輸?shù)母咝?,并降低CPU資源在數(shù)據(jù)傳輸過程中的消耗。
(4)并行計算技術(shù),實現(xiàn)任務(wù)的并行調(diào)度,加快數(shù)據(jù)的處理速率。
(5)云橋數(shù)據(jù)庫一體機(jī)管理軟件,通過圖形化方式,實現(xiàn)對整個系統(tǒng)的管理和監(jiān)控。
3 在移動行業(yè)的應(yīng)用
云橋數(shù)據(jù)庫一體機(jī)由南京斯坦德公司研發(fā),采用將數(shù)據(jù)庫計算層、互聯(lián)網(wǎng)絡(luò)層和存儲層相結(jié)合的一體化解決方案架構(gòu),將ORACLE數(shù)據(jù)庫、Infiniband網(wǎng)絡(luò)、云橋存儲以及flash技術(shù)整合在一起。產(chǎn)品采用緩存加速技術(shù)和RDMA高速專用網(wǎng)絡(luò)技術(shù),使得該一體機(jī)獲得了超強(qiáng)的處理性能、無限的線性擴(kuò)展能力、高IOPS和高可用性等主要特點,能夠為移動行業(yè)用戶提供高可用、高性能、可擴(kuò)展的數(shù)據(jù)處理服務(wù)。該產(chǎn)品適用于業(yè)務(wù)系統(tǒng)的數(shù)據(jù)倉庫、數(shù)據(jù)庫OLAP/OLTP、數(shù)據(jù)中心業(yè)務(wù)整合等多種移動運(yùn)營商的數(shù)據(jù)應(yīng)用場景。
3.1 案例背景
某移動公司的經(jīng)營分析系統(tǒng)負(fù)責(zé)公司日常經(jīng)營數(shù)據(jù)的分析、挖掘,為決策者、各級管理者提供經(jīng)營決策依據(jù),以實現(xiàn)精細(xì)化營銷。隨著營銷業(yè)務(wù)的快速發(fā)展,原先使用的小型機(jī)架構(gòu)的數(shù)據(jù)庫環(huán)境的性能已經(jīng)無法滿足系統(tǒng)的要求,主要表現(xiàn)在當(dāng)處理以數(shù)據(jù)讀取密集、運(yùn)算負(fù)載高為特征的任務(wù)時反應(yīng)緩慢,且其成本、擴(kuò)容性和開放性等方面都存在諸多限制。為了解決系統(tǒng)存在的問題,新一代數(shù)據(jù)庫架構(gòu)采用了X86架構(gòu)的云橋數(shù)據(jù)庫一體機(jī)系統(tǒng)。為了對比驗證云橋數(shù)據(jù)庫一體機(jī)的性能,此次系統(tǒng)改造仍保留了原小型機(jī)系統(tǒng)。
3.2 環(huán)境配置
原生產(chǎn)環(huán)境小型機(jī)配置如表1所示:
表1 原生產(chǎn)環(huán)境小型機(jī)配置
序號 小型機(jī)節(jié)點 每臺節(jié)點配置 集群方式endprint
1 3臺HP RX8640小型機(jī) Intel Itanium2 1.6GHz
(2 core)CPU*16,192G內(nèi)存,2塊300G SCSI硬盤 ORACLE RAC集群
現(xiàn)生產(chǎn)環(huán)境采用云橋數(shù)據(jù)庫一體機(jī)1/4配置,具體配置如表2所示:
表2 現(xiàn)生產(chǎn)環(huán)境云橋數(shù)據(jù)庫一體機(jī)1/4配置序號 節(jié)點名稱 節(jié)點數(shù)量 每臺節(jié)點配置 備注
1 計算節(jié)點 2 AMD Quad-Core 8380 2.5GHz CPU*4,64G內(nèi)存,200GB硬盤*2,40Gbps IB HCA卡*2 ORACLE RAC集群
2 存儲節(jié)點 3 云橋高速存儲系統(tǒng),2T SAS硬盤*45,1.2T閃存緩存,40Gbps IB端口*2 -
3 網(wǎng)絡(luò)節(jié)點 2 mellanox IS5023交換機(jī),40Gbps IB端口*16 -
新舊系統(tǒng)均處于經(jīng)營分析系統(tǒng)的業(yè)務(wù)生產(chǎn)環(huán)境中,通過API保證新舊系統(tǒng)的存儲數(shù)據(jù)、任務(wù)調(diào)度模式均一致,保證性能對比的準(zhǔn)確性。具體測試環(huán)境如圖2所示:
圖2 測試環(huán)境示意圖
3.3 應(yīng)用效果
通過調(diào)用4個計算復(fù)雜度高及數(shù)據(jù)量較大,易對系統(tǒng)造成較高負(fù)載的數(shù)據(jù)庫事務(wù),模擬移動業(yè)務(wù)系統(tǒng)的應(yīng)用場景進(jìn)行應(yīng)用效果說明,數(shù)據(jù)庫事務(wù)具體內(nèi)容如下:
事務(wù)1:提取歸屬地市包含XX市(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))并且終端操作系統(tǒng)包含Android(昨天,前第2天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)2:提取屬性是智能機(jī)(前第4天,前第5天,前第7天數(shù)據(jù)),排除在檔客戶(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)3:提取入網(wǎng)時長大于36個月(前第2天,前第3天,前第4天,前第5天數(shù)據(jù)),并且用戶品牌包含“標(biāo)準(zhǔn)神州行”(前第5天,前第6天,前第7天,前第8天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)4:提取歸屬地市包含XX市或YY市(前第2天,前第3天,前第4天,前第5天數(shù)據(jù)),排除農(nóng)信通潛在用戶(昨天,前第2天數(shù)據(jù)),且年齡介于20和30之間或者入網(wǎng)時長大于36個月(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))的數(shù)據(jù)。
本次應(yīng)用效果分析使用了ORACLE的SwingBench、Orion和AWR測試工具。
(1)事務(wù)的應(yīng)用特征驗證
使用AWR工具抓取了整個測試時間段數(shù)據(jù)庫的狀態(tài)數(shù)據(jù)驗證此次調(diào)用事務(wù)的應(yīng)用特征。圖3和圖4顯示了本次測試計算節(jié)點及數(shù)據(jù)庫基本狀態(tài)信息,圖5和圖6顯示了測試過程中數(shù)據(jù)庫Top5等待事件。其中計算節(jié)點中實例STD1 CPU負(fù)載為381%,實例STD2 CPU負(fù)載為325%,接近系統(tǒng)最大400%的滿負(fù)載狀態(tài)數(shù)據(jù)庫的主要等待事件是row cache lock和db file scattered read,等待類型為并發(fā)和IO。綜上可以驗證此次測試使用的事務(wù)特征與高并發(fā)、計算復(fù)雜及高IO的移動業(yè)務(wù)系統(tǒng)應(yīng)用特征相吻合。
(2)云橋數(shù)據(jù)庫一體機(jī)存儲性能
使用Orion工具衡量云橋數(shù)據(jù)庫一體機(jī)的IOPS、吞吐量等存儲性能,具體性能數(shù)值見表3(數(shù)據(jù)庫block大小為8K):
表3 云橋數(shù)據(jù)庫一體機(jī)具體性能數(shù)值
序號 IO使用率 最大IOPS 最大吞吐量
1 80%讀,20%寫 18.6萬 1 525.08Mbps
具體測試數(shù)據(jù)見圖7和圖8。
(3)與小型機(jī)的性能測試結(jié)果對比
原生產(chǎn)環(huán)境采用了3臺HP小型機(jī)搭建的數(shù)據(jù)庫集群,而本次測試的云橋數(shù)據(jù)庫一體機(jī)采用的是2臺HP X86服務(wù)器組成的數(shù)據(jù)庫集群,硬件配置方面小型機(jī)占有優(yōu)勢,但從測試結(jié)果看云橋數(shù)據(jù)庫一體機(jī)支撐的移動業(yè)務(wù)系統(tǒng)響應(yīng)速度比原小型機(jī)生產(chǎn)環(huán)境有更佳的性能表現(xiàn),具體對比結(jié)果如表4所示。
測試過程中多次調(diào)用4個事務(wù)的總耗時量對比結(jié)果如圖9所示。
(4)結(jié)論
在本次移動業(yè)務(wù)系統(tǒng)使用期間,云橋數(shù)據(jù)庫一體機(jī)運(yùn)行平穩(wěn),能夠滿足高并發(fā)、計算復(fù)雜及高IO的業(yè)務(wù)場景的應(yīng)用需求,并且具有強(qiáng)大的橫向擴(kuò)展能力,性能、擴(kuò)展性方面相比小型機(jī)具有一定的優(yōu)勢。
4 結(jié)束語
本文介紹了云橋數(shù)據(jù)庫一體機(jī)的軟硬件平臺和性能特點,為移動運(yùn)營商建設(shè)業(yè)務(wù)系統(tǒng)的數(shù)據(jù)解決架構(gòu)提供了另一種新思路。
作為追求高效、穩(wěn)定等性能的X86架構(gòu)的數(shù)據(jù)處理產(chǎn)品,云橋數(shù)據(jù)庫一體機(jī)以其優(yōu)越的性能和高擴(kuò)展性被國內(nèi)各大運(yùn)營商所青睞。云橋數(shù)據(jù)庫一體機(jī)不僅可以提高運(yùn)營商的信息化水平,還可以增加運(yùn)營商在激烈的市場競爭中發(fā)現(xiàn)新業(yè)務(wù)、新需求的機(jī)會,幫助運(yùn)營商在大數(shù)據(jù)時代提升市場精細(xì)化營銷水平和深度運(yùn)營能力。
參考文獻(xiàn):
[1] Ben Prusinski, Syed Jaffar Hussain. Oracle 11g R1/R2 Real Application Clusters[M]. Birmingham: Packt Publishing Ltd, 2010.
[2] Ulf Troppens. Storage Networks Explained: Basics and Application of Fibre Channel SAN, NAS, iSCSI, InfiniBand and FCoE[M]. America: Wiley, 2009.
[3] Source. Industrial Networking: Computer Networks, Intranet, Frame, Myrinet, Infiniband, Scalable Coherent Interface, G.Hn, Controller Area Network[M]. San Francisco: Books LLC, 2009.
[4] Peter Pacheco. Parallel Programming with MPI[M]. San Francisco: Morgan Kaufmann Publishers In, 1996.
[5] 帕切克. 并行程序設(shè)計導(dǎo)論[M]. 北京: 機(jī)
械工業(yè)出版社, 2011.
[6] 中國通信企業(yè)協(xié)會. 2012——2013中國通信業(yè)發(fā)展分析報告[M]. 北京: 人民郵電出版社, 2013.
作者簡介
儲浩:ISO/IEC JTC 1智慧城市研究組專家,博士畢業(yè)于同濟(jì)大學(xué),現(xiàn)任南京斯坦德云科技股份有限公司副總經(jīng)理兼技術(shù)總監(jiān),主要從事云計算、大數(shù)據(jù)技術(shù)的研究和研發(fā)管理等工作。先后發(fā)表科研論文40余篇,申請發(fā)明專利6項,軟件著作權(quán)9項。
呂萬里:學(xué)士畢業(yè)于上海海洋大學(xué),現(xiàn)任南京斯坦德云科技股份有限公司副總經(jīng)理助理,主要研究方向為云計算、大數(shù)據(jù)技術(shù)在電信和電力行業(yè)的應(yīng)用,參與了智慧城市標(biāo)準(zhǔn)制定等工作。endprint
1 3臺HP RX8640小型機(jī) Intel Itanium2 1.6GHz
(2 core)CPU*16,192G內(nèi)存,2塊300G SCSI硬盤 ORACLE RAC集群
現(xiàn)生產(chǎn)環(huán)境采用云橋數(shù)據(jù)庫一體機(jī)1/4配置,具體配置如表2所示:
表2 現(xiàn)生產(chǎn)環(huán)境云橋數(shù)據(jù)庫一體機(jī)1/4配置序號 節(jié)點名稱 節(jié)點數(shù)量 每臺節(jié)點配置 備注
1 計算節(jié)點 2 AMD Quad-Core 8380 2.5GHz CPU*4,64G內(nèi)存,200GB硬盤*2,40Gbps IB HCA卡*2 ORACLE RAC集群
2 存儲節(jié)點 3 云橋高速存儲系統(tǒng),2T SAS硬盤*45,1.2T閃存緩存,40Gbps IB端口*2 -
3 網(wǎng)絡(luò)節(jié)點 2 mellanox IS5023交換機(jī),40Gbps IB端口*16 -
新舊系統(tǒng)均處于經(jīng)營分析系統(tǒng)的業(yè)務(wù)生產(chǎn)環(huán)境中,通過API保證新舊系統(tǒng)的存儲數(shù)據(jù)、任務(wù)調(diào)度模式均一致,保證性能對比的準(zhǔn)確性。具體測試環(huán)境如圖2所示:
圖2 測試環(huán)境示意圖
3.3 應(yīng)用效果
通過調(diào)用4個計算復(fù)雜度高及數(shù)據(jù)量較大,易對系統(tǒng)造成較高負(fù)載的數(shù)據(jù)庫事務(wù),模擬移動業(yè)務(wù)系統(tǒng)的應(yīng)用場景進(jìn)行應(yīng)用效果說明,數(shù)據(jù)庫事務(wù)具體內(nèi)容如下:
事務(wù)1:提取歸屬地市包含XX市(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))并且終端操作系統(tǒng)包含Android(昨天,前第2天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)2:提取屬性是智能機(jī)(前第4天,前第5天,前第7天數(shù)據(jù)),排除在檔客戶(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)3:提取入網(wǎng)時長大于36個月(前第2天,前第3天,前第4天,前第5天數(shù)據(jù)),并且用戶品牌包含“標(biāo)準(zhǔn)神州行”(前第5天,前第6天,前第7天,前第8天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)4:提取歸屬地市包含XX市或YY市(前第2天,前第3天,前第4天,前第5天數(shù)據(jù)),排除農(nóng)信通潛在用戶(昨天,前第2天數(shù)據(jù)),且年齡介于20和30之間或者入網(wǎng)時長大于36個月(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))的數(shù)據(jù)。
本次應(yīng)用效果分析使用了ORACLE的SwingBench、Orion和AWR測試工具。
(1)事務(wù)的應(yīng)用特征驗證
使用AWR工具抓取了整個測試時間段數(shù)據(jù)庫的狀態(tài)數(shù)據(jù)驗證此次調(diào)用事務(wù)的應(yīng)用特征。圖3和圖4顯示了本次測試計算節(jié)點及數(shù)據(jù)庫基本狀態(tài)信息,圖5和圖6顯示了測試過程中數(shù)據(jù)庫Top5等待事件。其中計算節(jié)點中實例STD1 CPU負(fù)載為381%,實例STD2 CPU負(fù)載為325%,接近系統(tǒng)最大400%的滿負(fù)載狀態(tài)數(shù)據(jù)庫的主要等待事件是row cache lock和db file scattered read,等待類型為并發(fā)和IO。綜上可以驗證此次測試使用的事務(wù)特征與高并發(fā)、計算復(fù)雜及高IO的移動業(yè)務(wù)系統(tǒng)應(yīng)用特征相吻合。
(2)云橋數(shù)據(jù)庫一體機(jī)存儲性能
使用Orion工具衡量云橋數(shù)據(jù)庫一體機(jī)的IOPS、吞吐量等存儲性能,具體性能數(shù)值見表3(數(shù)據(jù)庫block大小為8K):
表3 云橋數(shù)據(jù)庫一體機(jī)具體性能數(shù)值
序號 IO使用率 最大IOPS 最大吞吐量
1 80%讀,20%寫 18.6萬 1 525.08Mbps
具體測試數(shù)據(jù)見圖7和圖8。
(3)與小型機(jī)的性能測試結(jié)果對比
原生產(chǎn)環(huán)境采用了3臺HP小型機(jī)搭建的數(shù)據(jù)庫集群,而本次測試的云橋數(shù)據(jù)庫一體機(jī)采用的是2臺HP X86服務(wù)器組成的數(shù)據(jù)庫集群,硬件配置方面小型機(jī)占有優(yōu)勢,但從測試結(jié)果看云橋數(shù)據(jù)庫一體機(jī)支撐的移動業(yè)務(wù)系統(tǒng)響應(yīng)速度比原小型機(jī)生產(chǎn)環(huán)境有更佳的性能表現(xiàn),具體對比結(jié)果如表4所示。
測試過程中多次調(diào)用4個事務(wù)的總耗時量對比結(jié)果如圖9所示。
(4)結(jié)論
在本次移動業(yè)務(wù)系統(tǒng)使用期間,云橋數(shù)據(jù)庫一體機(jī)運(yùn)行平穩(wěn),能夠滿足高并發(fā)、計算復(fù)雜及高IO的業(yè)務(wù)場景的應(yīng)用需求,并且具有強(qiáng)大的橫向擴(kuò)展能力,性能、擴(kuò)展性方面相比小型機(jī)具有一定的優(yōu)勢。
4 結(jié)束語
本文介紹了云橋數(shù)據(jù)庫一體機(jī)的軟硬件平臺和性能特點,為移動運(yùn)營商建設(shè)業(yè)務(wù)系統(tǒng)的數(shù)據(jù)解決架構(gòu)提供了另一種新思路。
作為追求高效、穩(wěn)定等性能的X86架構(gòu)的數(shù)據(jù)處理產(chǎn)品,云橋數(shù)據(jù)庫一體機(jī)以其優(yōu)越的性能和高擴(kuò)展性被國內(nèi)各大運(yùn)營商所青睞。云橋數(shù)據(jù)庫一體機(jī)不僅可以提高運(yùn)營商的信息化水平,還可以增加運(yùn)營商在激烈的市場競爭中發(fā)現(xiàn)新業(yè)務(wù)、新需求的機(jī)會,幫助運(yùn)營商在大數(shù)據(jù)時代提升市場精細(xì)化營銷水平和深度運(yùn)營能力。
參考文獻(xiàn):
[1] Ben Prusinski, Syed Jaffar Hussain. Oracle 11g R1/R2 Real Application Clusters[M]. Birmingham: Packt Publishing Ltd, 2010.
[2] Ulf Troppens. Storage Networks Explained: Basics and Application of Fibre Channel SAN, NAS, iSCSI, InfiniBand and FCoE[M]. America: Wiley, 2009.
[3] Source. Industrial Networking: Computer Networks, Intranet, Frame, Myrinet, Infiniband, Scalable Coherent Interface, G.Hn, Controller Area Network[M]. San Francisco: Books LLC, 2009.
[4] Peter Pacheco. Parallel Programming with MPI[M]. San Francisco: Morgan Kaufmann Publishers In, 1996.
[5] 帕切克. 并行程序設(shè)計導(dǎo)論[M]. 北京: 機(jī)
械工業(yè)出版社, 2011.
[6] 中國通信企業(yè)協(xié)會. 2012——2013中國通信業(yè)發(fā)展分析報告[M]. 北京: 人民郵電出版社, 2013.
作者簡介
儲浩:ISO/IEC JTC 1智慧城市研究組專家,博士畢業(yè)于同濟(jì)大學(xué),現(xiàn)任南京斯坦德云科技股份有限公司副總經(jīng)理兼技術(shù)總監(jiān),主要從事云計算、大數(shù)據(jù)技術(shù)的研究和研發(fā)管理等工作。先后發(fā)表科研論文40余篇,申請發(fā)明專利6項,軟件著作權(quán)9項。
呂萬里:學(xué)士畢業(yè)于上海海洋大學(xué),現(xiàn)任南京斯坦德云科技股份有限公司副總經(jīng)理助理,主要研究方向為云計算、大數(shù)據(jù)技術(shù)在電信和電力行業(yè)的應(yīng)用,參與了智慧城市標(biāo)準(zhǔn)制定等工作。endprint
1 3臺HP RX8640小型機(jī) Intel Itanium2 1.6GHz
(2 core)CPU*16,192G內(nèi)存,2塊300G SCSI硬盤 ORACLE RAC集群
現(xiàn)生產(chǎn)環(huán)境采用云橋數(shù)據(jù)庫一體機(jī)1/4配置,具體配置如表2所示:
表2 現(xiàn)生產(chǎn)環(huán)境云橋數(shù)據(jù)庫一體機(jī)1/4配置序號 節(jié)點名稱 節(jié)點數(shù)量 每臺節(jié)點配置 備注
1 計算節(jié)點 2 AMD Quad-Core 8380 2.5GHz CPU*4,64G內(nèi)存,200GB硬盤*2,40Gbps IB HCA卡*2 ORACLE RAC集群
2 存儲節(jié)點 3 云橋高速存儲系統(tǒng),2T SAS硬盤*45,1.2T閃存緩存,40Gbps IB端口*2 -
3 網(wǎng)絡(luò)節(jié)點 2 mellanox IS5023交換機(jī),40Gbps IB端口*16 -
新舊系統(tǒng)均處于經(jīng)營分析系統(tǒng)的業(yè)務(wù)生產(chǎn)環(huán)境中,通過API保證新舊系統(tǒng)的存儲數(shù)據(jù)、任務(wù)調(diào)度模式均一致,保證性能對比的準(zhǔn)確性。具體測試環(huán)境如圖2所示:
圖2 測試環(huán)境示意圖
3.3 應(yīng)用效果
通過調(diào)用4個計算復(fù)雜度高及數(shù)據(jù)量較大,易對系統(tǒng)造成較高負(fù)載的數(shù)據(jù)庫事務(wù),模擬移動業(yè)務(wù)系統(tǒng)的應(yīng)用場景進(jìn)行應(yīng)用效果說明,數(shù)據(jù)庫事務(wù)具體內(nèi)容如下:
事務(wù)1:提取歸屬地市包含XX市(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))并且終端操作系統(tǒng)包含Android(昨天,前第2天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)2:提取屬性是智能機(jī)(前第4天,前第5天,前第7天數(shù)據(jù)),排除在檔客戶(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)3:提取入網(wǎng)時長大于36個月(前第2天,前第3天,前第4天,前第5天數(shù)據(jù)),并且用戶品牌包含“標(biāo)準(zhǔn)神州行”(前第5天,前第6天,前第7天,前第8天數(shù)據(jù))的數(shù)據(jù)。
事務(wù)4:提取歸屬地市包含XX市或YY市(前第2天,前第3天,前第4天,前第5天數(shù)據(jù)),排除農(nóng)信通潛在用戶(昨天,前第2天數(shù)據(jù)),且年齡介于20和30之間或者入網(wǎng)時長大于36個月(前第2天,前第3天,前第4天,前第5天數(shù)據(jù))的數(shù)據(jù)。
本次應(yīng)用效果分析使用了ORACLE的SwingBench、Orion和AWR測試工具。
(1)事務(wù)的應(yīng)用特征驗證
使用AWR工具抓取了整個測試時間段數(shù)據(jù)庫的狀態(tài)數(shù)據(jù)驗證此次調(diào)用事務(wù)的應(yīng)用特征。圖3和圖4顯示了本次測試計算節(jié)點及數(shù)據(jù)庫基本狀態(tài)信息,圖5和圖6顯示了測試過程中數(shù)據(jù)庫Top5等待事件。其中計算節(jié)點中實例STD1 CPU負(fù)載為381%,實例STD2 CPU負(fù)載為325%,接近系統(tǒng)最大400%的滿負(fù)載狀態(tài)數(shù)據(jù)庫的主要等待事件是row cache lock和db file scattered read,等待類型為并發(fā)和IO。綜上可以驗證此次測試使用的事務(wù)特征與高并發(fā)、計算復(fù)雜及高IO的移動業(yè)務(wù)系統(tǒng)應(yīng)用特征相吻合。
(2)云橋數(shù)據(jù)庫一體機(jī)存儲性能
使用Orion工具衡量云橋數(shù)據(jù)庫一體機(jī)的IOPS、吞吐量等存儲性能,具體性能數(shù)值見表3(數(shù)據(jù)庫block大小為8K):
表3 云橋數(shù)據(jù)庫一體機(jī)具體性能數(shù)值
序號 IO使用率 最大IOPS 最大吞吐量
1 80%讀,20%寫 18.6萬 1 525.08Mbps
具體測試數(shù)據(jù)見圖7和圖8。
(3)與小型機(jī)的性能測試結(jié)果對比
原生產(chǎn)環(huán)境采用了3臺HP小型機(jī)搭建的數(shù)據(jù)庫集群,而本次測試的云橋數(shù)據(jù)庫一體機(jī)采用的是2臺HP X86服務(wù)器組成的數(shù)據(jù)庫集群,硬件配置方面小型機(jī)占有優(yōu)勢,但從測試結(jié)果看云橋數(shù)據(jù)庫一體機(jī)支撐的移動業(yè)務(wù)系統(tǒng)響應(yīng)速度比原小型機(jī)生產(chǎn)環(huán)境有更佳的性能表現(xiàn),具體對比結(jié)果如表4所示。
測試過程中多次調(diào)用4個事務(wù)的總耗時量對比結(jié)果如圖9所示。
(4)結(jié)論
在本次移動業(yè)務(wù)系統(tǒng)使用期間,云橋數(shù)據(jù)庫一體機(jī)運(yùn)行平穩(wěn),能夠滿足高并發(fā)、計算復(fù)雜及高IO的業(yè)務(wù)場景的應(yīng)用需求,并且具有強(qiáng)大的橫向擴(kuò)展能力,性能、擴(kuò)展性方面相比小型機(jī)具有一定的優(yōu)勢。
4 結(jié)束語
本文介紹了云橋數(shù)據(jù)庫一體機(jī)的軟硬件平臺和性能特點,為移動運(yùn)營商建設(shè)業(yè)務(wù)系統(tǒng)的數(shù)據(jù)解決架構(gòu)提供了另一種新思路。
作為追求高效、穩(wěn)定等性能的X86架構(gòu)的數(shù)據(jù)處理產(chǎn)品,云橋數(shù)據(jù)庫一體機(jī)以其優(yōu)越的性能和高擴(kuò)展性被國內(nèi)各大運(yùn)營商所青睞。云橋數(shù)據(jù)庫一體機(jī)不僅可以提高運(yùn)營商的信息化水平,還可以增加運(yùn)營商在激烈的市場競爭中發(fā)現(xiàn)新業(yè)務(wù)、新需求的機(jī)會,幫助運(yùn)營商在大數(shù)據(jù)時代提升市場精細(xì)化營銷水平和深度運(yùn)營能力。
參考文獻(xiàn):
[1] Ben Prusinski, Syed Jaffar Hussain. Oracle 11g R1/R2 Real Application Clusters[M]. Birmingham: Packt Publishing Ltd, 2010.
[2] Ulf Troppens. Storage Networks Explained: Basics and Application of Fibre Channel SAN, NAS, iSCSI, InfiniBand and FCoE[M]. America: Wiley, 2009.
[3] Source. Industrial Networking: Computer Networks, Intranet, Frame, Myrinet, Infiniband, Scalable Coherent Interface, G.Hn, Controller Area Network[M]. San Francisco: Books LLC, 2009.
[4] Peter Pacheco. Parallel Programming with MPI[M]. San Francisco: Morgan Kaufmann Publishers In, 1996.
[5] 帕切克. 并行程序設(shè)計導(dǎo)論[M]. 北京: 機(jī)
械工業(yè)出版社, 2011.
[6] 中國通信企業(yè)協(xié)會. 2012——2013中國通信業(yè)發(fā)展分析報告[M]. 北京: 人民郵電出版社, 2013.
作者簡介
儲浩:ISO/IEC JTC 1智慧城市研究組專家,博士畢業(yè)于同濟(jì)大學(xué),現(xiàn)任南京斯坦德云科技股份有限公司副總經(jīng)理兼技術(shù)總監(jiān),主要從事云計算、大數(shù)據(jù)技術(shù)的研究和研發(fā)管理等工作。先后發(fā)表科研論文40余篇,申請發(fā)明專利6項,軟件著作權(quán)9項。
呂萬里:學(xué)士畢業(yè)于上海海洋大學(xué),現(xiàn)任南京斯坦德云科技股份有限公司副總經(jīng)理助理,主要研究方向為云計算、大數(shù)據(jù)技術(shù)在電信和電力行業(yè)的應(yīng)用,參與了智慧城市標(biāo)準(zhǔn)制定等工作。endprint