星環(huán)科技是國內(nèi)極少數(shù)掌握大數(shù)據(jù)核心技術的高科技公司,專注于企業(yè)級大數(shù)據(jù)核心平臺數(shù)據(jù)庫的研發(fā)與服務, 產(chǎn)品Transwarp Data Hub (TDH)以其業(yè)界最完整的SQL on Hadoop支持; 獨特的對分布式ACID數(shù)據(jù)一致性支持;以及對SSD優(yōu)化提高集群性價比等特點,比肩硅谷同行,。
思科也是業(yè)界知名的集網(wǎng)絡和服務器于一身的整體解決方案廠商,其UCS系統(tǒng)方案包含低延時無丟包萬兆以太網(wǎng)統(tǒng)一交換網(wǎng)絡陣列,,以及機架和刀片式企業(yè)級x86 架構服務器。它是一個集成的可擴展平臺,,在統(tǒng)一的管理域中管理所有資源并對管理域進行統(tǒng)一的資源調(diào)配和管理,。統(tǒng)一計算系統(tǒng)專為大數(shù)據(jù)計算優(yōu)化。
近日,,星環(huán)科技和思科聯(lián)手在最新款服務器UCS C240 M4和N9K-C9372PX交換機上進行了大數(shù)據(jù)測試,,得到了令人驚喜的最新測試結果:星環(huán)科技TDH 平臺在cisco的UCS系統(tǒng)上的表現(xiàn)令人驚艷。借助于思科性能優(yōu)異的UCS M4服務器和低延遲,,高吞吐的網(wǎng)絡交換技術,,相較于星環(huán)原有的系統(tǒng)在1TB測試數(shù)據(jù)集下性能提升了2.6倍,領先以往所有的歷史記錄,。
在思科服務器上,,星環(huán)TDH首次實現(xiàn)在4個節(jié)點服務器上完成10TB數(shù)據(jù)的性能測試。相對于1TB數(shù)據(jù)的測試結果又低了9倍,,再次證明了星環(huán)大數(shù)據(jù)平臺良好的可擴展性,。這意味著跑完一條SQL需要的時間更短。而數(shù)據(jù)的處理速度加快,,為用戶帶來更多價值,。
最后星環(huán)工程師不滿足于現(xiàn)有成績,在總?cè)萘?0TB的數(shù)據(jù)容量下實現(xiàn)了60TB數(shù)據(jù)的大數(shù)據(jù)搜索計算,,思科的系統(tǒng)再次承受住這一考驗。
為了提升整體性能,,此次思科和星環(huán)科技進行了如下優(yōu)化:
1. 此次測試用的服務器集成了12塊SAS 7.2KRPM 2T磁盤和一塊1.6T SSD的配置(2塊硬盤做了RAID1安裝OS,,未作為數(shù)據(jù)存儲)。SSD高速閃存盤結合星環(huán)科技獨有的holodesk技術,,極大地減少了hadoop中shuffle時間,,提升了性能,。
此外每個節(jié)點上的數(shù)據(jù)也利用星環(huán)優(yōu)化的分布式算法,不但對節(jié)點間的數(shù)據(jù)做了分散存儲,,而且單節(jié)點各磁盤間也做了分散存儲,,最大程度上減少了磁盤突讀寫瓶頸的發(fā)生幾率。
2. 思科VIC1227網(wǎng)卡多隊列助力:思科VIC1227作為一塊CNA的網(wǎng)卡,,在底層是通過虛擬化實現(xiàn)一卡多用,、帶寬動態(tài)隔離的效果,同時還支持多隊列屬性,。思科UCS在保證硬件兼容性和寬容度的同時,,又保證了池化資源配置的靈活性,并由此提供了卓越的表現(xiàn),。
此外,,星環(huán)科技TDH平臺全面支持UCS平臺上service profile的無狀態(tài)計算功能。CISCO的統(tǒng)一計算系統(tǒng)提供端到端的管理方式,,其UCS Manager中的service profile漂移功能可以為我們的用戶提供服務或應用配置保持一致的功能,。在測試過程中,我們發(fā)現(xiàn)不但數(shù)據(jù)在硬件配置改變后完全可用,,連操作系統(tǒng)也可以在硬件的變更后完全沒有感知,。一切運行都正常如初。
通過這次實踐我們發(fā)現(xiàn)在思科UCS設備以其先進,、靈活,、高效、無狀態(tài)化的特性;在與以星環(huán)為代表的大數(shù)據(jù)一站式平臺軟件的合作實踐中成績優(yōu)異,,比同類同配置服務器有更好的性能表現(xiàn),。同時UCS方便的硬件資源池化管理理念,也很大程度上簡化了用戶維護龐大的分布式大數(shù)據(jù)集群復雜度,,降低其運維成本和綜合成本,。
此次星環(huán)科技與CISCO的合作,也是思科UCS系列產(chǎn)品和星環(huán)大數(shù)據(jù)解決方案的強強聯(lián)合,,真正為客戶帶來1+1>2的卓越價值,。
*星環(huán)信息科技(上海)有限公司是目前國內(nèi)極少數(shù)掌握企業(yè)級大數(shù)據(jù)Hadoop和Spark核心技術的高科技公司,從事大數(shù)據(jù)時代核心平臺數(shù)據(jù)庫軟件的研發(fā)與服務,。在全球去IOE的大背景下,,Hadoop技術已成為公認的替代傳統(tǒng)數(shù)據(jù)庫的大數(shù)據(jù)產(chǎn)品。公司產(chǎn)品Transwarp Data Hub (TDH)的整體架構及功能特性比肩硅谷同行,,產(chǎn)品性能在業(yè)界處于領先水平,。
*思科公司是全球領先的網(wǎng)絡解決方案供應商。今天,網(wǎng)絡作為一個平臺成為了商業(yè),、教育,、政府和家庭通信不可或缺的一部分,思科的互聯(lián)網(wǎng)技術正是這些網(wǎng)絡的基礎,。