CTI論壇(ctiforum)8月25日消息(記者 李文杰):企業(yè)級(jí)基礎(chǔ)云服務(wù)商青云QingCloud日前宣布,Spark服務(wù)作為QingCloud大數(shù)據(jù)基礎(chǔ)平臺(tái)的重要組件現(xiàn)已正式上線。通過(guò)QingCloud Spark服務(wù),用戶能夠在2-3分鐘內(nèi)創(chuàng)建一個(gè)Spark集群,并支持橫向和縱向的在線伸縮,提供豐富的監(jiān)控告警服務(wù),極大地簡(jiǎn)化了大數(shù)據(jù)集群的運(yùn)維和管理,讓用戶從繁重的運(yùn)維工作中解脫出來(lái),投入到業(yè)務(wù)創(chuàng)新中。
青云 QingCloud Spark 服務(wù)正式上線
數(shù)據(jù)是新一代的自然資源,是判別企業(yè)競(jìng)爭(zhēng)力的試金石。然而,隨著數(shù)據(jù)量的爆炸式增長(zhǎng)、數(shù)據(jù)來(lái)源和結(jié)構(gòu)的多樣化,傳統(tǒng)IT基礎(chǔ)架構(gòu)已無(wú)法滿足企業(yè)對(duì)數(shù)據(jù)處理的需求,Hadoop、Spark等支持PB級(jí)別數(shù)據(jù)的分布式存儲(chǔ)和分布式計(jì)算框架應(yīng)運(yùn)而生。
青云QingCloud系統(tǒng)工程師&大數(shù)據(jù)基礎(chǔ)平臺(tái)負(fù)責(zé)人周小四(Ray Zhou)表示,基礎(chǔ)架構(gòu)是大數(shù)據(jù)應(yīng)用的基石,如果沒(méi)有底層數(shù)據(jù)架構(gòu)的支持,大數(shù)據(jù)就是紙上談兵。此次推出的Spark服務(wù)就是基于QingCloud穩(wěn)定高效、資源秒級(jí)響應(yīng)、彈性可伸縮的IaaS之上,能夠最大限度地發(fā)揮Spark輕巧、靈活和快速的優(yōu)勢(shì)。
Spark 是繼Hadoop之后新一代的大數(shù)據(jù)分布式處理平臺(tái)。它是一個(gè)基于內(nèi)存的、容錯(cuò)型的分布式計(jì)算引擎。與Hadoop MapReduce相比,Spark的計(jì)算速度要快100倍。即便同樣采用硬盤計(jì)算,Spark也比MapReduce快10倍。Spark卓越的用戶體驗(yàn)以及統(tǒng)一的技術(shù)堆;旧辖鉀Q了大數(shù)據(jù)領(lǐng)域所有核心問(wèn)題,使得Spark迅速成為當(dāng)前最為熱門的大數(shù)據(jù)基礎(chǔ)平臺(tái)。
Spark 提供了多語(yǔ)言支持,如Scala、Python、Java、R等,支持交互式操作。它在RDD(Resilient Distributed Datasets,一個(gè)容錯(cuò)的、并行的數(shù)據(jù)結(jié)構(gòu)) 基礎(chǔ)之上提供了Spark Streaming流式計(jì)算,結(jié)構(gòu)化數(shù)據(jù)處理組件Spark SQL,機(jī)器學(xué)習(xí)庫(kù) MLlib 以及圖計(jì)算GraphX等功能。
具體而言,青云QingCloud提供的Spark服務(wù)有如下特征:
一鍵部署:QingCloud用戶只需簡(jiǎn)單的配置,就能夠在2-3分鐘內(nèi)搭建出一個(gè)Spark集群,并且通過(guò)豐富的工具和服務(wù),實(shí)現(xiàn)高效簡(jiǎn)便的Spark運(yùn)維管理。QingCloud提供多樣化、組件化的服務(wù)模式,用戶可以根據(jù)自己的業(yè)務(wù)需求,組建個(gè)性化的解決方案。
在線伸縮:Spark服務(wù)支持橫向和縱向在線伸縮,以滿足用戶對(duì)計(jì)算能力和容量的需求,橫向伸縮對(duì)用戶業(yè)務(wù)的連續(xù)性不會(huì)產(chǎn)生任何影響。后續(xù)還會(huì)配合AutoScaling,達(dá)到Spark集群自動(dòng)伸縮的效果。
遷移成本低:QingCloud Spark服務(wù)采用原生開(kāi)源解決方案,并且采用最新的版本(目前為1.4.1版本,未來(lái)還會(huì)持續(xù)更新,并保留三個(gè)最新版本),具有良好的向下兼容特性,便于用戶將自有Spark集群遷移至云端,也不限制用戶從Spark服務(wù)遷移至自有集群。使用QingCloud的Spark服務(wù),用戶完全不必?fù)?dān)心產(chǎn)生Vendor lock-in的束縛。
監(jiān)控告警:QingCloud提供了對(duì)每個(gè)節(jié)點(diǎn)資源的監(jiān)控告警服務(wù),包括CPU使用率、內(nèi)存使用率、硬盤使用率、硬盤IOPS、硬盤吞吐量等,以幫助用戶更好的管理和維護(hù)Spark集群。
安全性:Spark集群運(yùn)行于私有網(wǎng)絡(luò)內(nèi),結(jié)合QingCloud提供的高性能存儲(chǔ)和超高性能存儲(chǔ),在保障高性能的同時(shí)兼顧用戶的數(shù)據(jù)安全。
青云QingCloud CEO 黃允松(Richard Huang)表示,Spark服務(wù)的發(fā)布標(biāo)志著QingCloud完整的大數(shù)據(jù)基礎(chǔ)平臺(tái)已初步建立,接下來(lái)QingCloud還會(huì)陸續(xù)發(fā)布一系列大數(shù)據(jù)相關(guān)服務(wù),如Hadoop、Cassandra、Hive、HBase和Storm等。未來(lái),大數(shù)據(jù)、數(shù)據(jù)庫(kù)、緩存和對(duì)象存儲(chǔ)將同IaaS組件一起構(gòu)成QingCloud完整的數(shù)據(jù)產(chǎn)品生態(tài)圈,提供一站式的計(jì)算、存儲(chǔ)和數(shù)據(jù)處理服務(wù),更好地幫助用戶實(shí)現(xiàn)數(shù)據(jù)的價(jià)值。
關(guān)于青云QingCloud
青云QingCloud 是全球首家實(shí)現(xiàn)資源秒級(jí)響應(yīng)并按秒計(jì)量的基礎(chǔ)云服務(wù)商,致力于為企業(yè)用戶提供安全可靠、性能卓越、按需、實(shí)時(shí)的 IT 資源交付平臺(tái)。其產(chǎn)品包含完整的 IaaS 層組件、 PaaS 層服務(wù)及超融合硬件設(shè)備。
QingCloud 采用分布式塊存儲(chǔ)系統(tǒng)確保高性能 I/O,部署實(shí)時(shí)異地副本保障數(shù)據(jù)安全,通過(guò)云端 SDN 實(shí)現(xiàn)靈活易用的專享私有云服務(wù)(VPC),提供塊設(shè)備級(jí)的備份與恢復(fù),設(shè)計(jì)實(shí)時(shí) P2P 機(jī)器人社區(qū)協(xié)作確保故障無(wú)害,支持全透明代理模式的負(fù)載均衡器,提供基于自身 IaaS 平臺(tái)構(gòu)建的 PaaS 服務(wù),并無(wú)限制開(kāi)放全部功能 API。
在為逾 35,000 家企業(yè)提供公有云服務(wù)的同時(shí),QingCloud 面向中、大型政企用戶提供包含軟硬件產(chǎn)品的云計(jì)算整體解決方案,幫助企業(yè)用戶構(gòu)建和運(yùn)維更加可靠、敏捷、高效的 IT 基礎(chǔ)資源調(diào)度平臺(tái),有效降低總擁有成本和運(yùn)維投入。