華為EBG中國區(qū)行業(yè)云拓展部部長(zhǎng)胡維琦做現(xiàn)場(chǎng)發(fā)布
全球首發(fā)GPU共享型高性能AI容器
讓人工智能觸手可及
當(dāng)下,人工智能已成為各行各業(yè)的熱點(diǎn)和趨勢(shì),在實(shí)際應(yīng)用中,企業(yè)在不斷追求各類AI計(jì)算場(chǎng)景下性能和成本的極致體驗(yàn)。容器以其獨(dú)特的技術(shù)優(yōu)勢(shì),已經(jīng)成為業(yè)界主流AI計(jì)算框架(如Tensorflow、Caffe)的核心引擎。華為云為了進(jìn)一步解決企業(yè)在AI計(jì)算性能與成本上面臨的問題,為企業(yè)量身打造了AI容器產(chǎn)品。
華為云AI容器是全球首款支持共享GPU的高性能容器產(chǎn)品,在業(yè)界首家實(shí)現(xiàn)了多容器共享GPU資源,大幅降低了AI計(jì)算的成本,并在AI計(jì)算性能上比通用方案提升了3-5倍以上。
極致性能
裸金屬NUMA架構(gòu)與高速IB網(wǎng)卡,性能提升3-5倍
在典型的深度學(xué)習(xí)模型訓(xùn)練場(chǎng)景下,需要傳輸和處理海量的數(shù)據(jù)。
華為云AI容器運(yùn)行在高性能的裸金屬服務(wù)器上,并通過NUMA架構(gòu)和100G IB網(wǎng)卡實(shí)現(xiàn)高速、低延遲的大數(shù)據(jù)量傳輸,讓GPU充分發(fā)揮大規(guī)模并行計(jì)算的優(yōu)勢(shì),從而大幅縮短訓(xùn)練的時(shí)間。經(jīng)實(shí)踐驗(yàn)證,深度學(xué)習(xí)訓(xùn)練對(duì)比傳統(tǒng)GPU加速方式能夠進(jìn)一步提升3-5倍。
高效計(jì)算
GPU資源多容器共享調(diào)度,計(jì)算成本大幅降低
華為云通過優(yōu)化K8S容器調(diào)度引擎,能夠?yàn)槿萜髦械腁I計(jì)算任務(wù)分配更細(xì)粒度的GPU資源,實(shí)現(xiàn)多個(gè)AI計(jì)算任務(wù)共享GPU,在部分AI計(jì)算如推理類場(chǎng)景中能夠?qū)崿F(xiàn)更高的資源利用率,從而大幅降低AI計(jì)算成本。
成熟應(yīng)用
主流GPU型號(hào)全適配,并在華為云EI產(chǎn)品大規(guī)模使用
華為云AI容器已完成多款主流GPU的適配,包括 Nvidia Tesla P4/P100/V100等產(chǎn)品系列,客戶可根據(jù)不同應(yīng)用場(chǎng)景靈活選取,以達(dá)到最高的性價(jià)比。
華為云AI容器支持Tensorflow、Caffe等主流深度學(xué)習(xí)框架,并在華為云EI的深度學(xué)習(xí)、推理平臺(tái)、人臉/圖像/文字識(shí)別等多個(gè)服務(wù)得到廣泛應(yīng)用與驗(yàn)證。
國內(nèi)首發(fā)公有云Istio服務(wù)網(wǎng)格
讓云原生應(yīng)用治理更簡(jiǎn)單
華為EBG中國區(qū)行業(yè)云拓展部部長(zhǎng)胡維琦現(xiàn)場(chǎng)分享到:“在Cloud 2.0時(shí)代,容器技術(shù)解決了應(yīng)用快速部署、上線、升級(jí)與彈性伸縮等運(yùn)維效率問題,但應(yīng)用運(yùn)行時(shí)的灰度發(fā)布、流量治理與健康管理等方面仍存在諸多難點(diǎn)。Istio是云原生Cloud Native生態(tài)的重要一環(huán),通過提供完整的非侵入式的微服務(wù)治理解決方案,能夠很好地解決云原生應(yīng)用的管理、網(wǎng)絡(luò)連接以及安全管理等應(yīng)用網(wǎng)絡(luò)治理問題。”
華為云在云容器引擎CCE中深度集成了Istio最新版本,并在易用性、可靠性、可視化等方面進(jìn)行了一系列增強(qiáng)。
一鍵啟動(dòng),與容器引擎無縫整合
無需用戶自行安裝,華為云容器引擎CCE已實(shí)現(xiàn)Istio的深度集成,只需在創(chuàng)建集群時(shí)做一次簡(jiǎn)單勾選,即可在集群和應(yīng)用中啟用完整的Istio服務(wù)網(wǎng)格,實(shí)現(xiàn)了開箱即用。
內(nèi)置多種灰度發(fā)布流程,確保應(yīng)用平滑升級(jí)
應(yīng)用上線后,運(yùn)維面臨的一大挑戰(zhàn)是如何不中斷業(yè)務(wù)升級(jí),華為云Istio服務(wù)網(wǎng)格內(nèi)置了金絲雀、A/B Testing等多種灰度發(fā)布策略,完美地解決了這一難題。用戶還可自定義配置,實(shí)現(xiàn)更多復(fù)雜流量策略。
圖形化應(yīng)用拓?fù)洌屃髁恐卫砜梢暬?/strong>
華為云Istio服務(wù)網(wǎng)格提供了可視化的流量監(jiān)控,異常響應(yīng)、超長(zhǎng)響應(yīng)時(shí)延、流量狀態(tài)信息拓?fù)涞纫荒苛巳;同時(shí),結(jié)合華為云AOM/APM服務(wù),提供了詳細(xì)的微服務(wù)級(jí)流量監(jiān)控、異常響應(yīng)流量報(bào)告以及調(diào)用鏈信息,實(shí)現(xiàn)更快速、更精準(zhǔn)的問題定位。
智能路由與彈性流量管理,讓流量治理更輕松
華為云Istio服務(wù)網(wǎng)格支持根據(jù)微服務(wù)的流量協(xié)議,提供策略化、場(chǎng)景化的網(wǎng)絡(luò)連接、安全策略管理能力。支持基于應(yīng)用拓?fù)鋵?duì)服務(wù)配置負(fù)載均衡、熔斷容錯(cuò)等治理規(guī)則,并提供實(shí)時(shí)的、可視化的微服務(wù)流量管理。應(yīng)用無需任何改造,即可進(jìn)行動(dòng)態(tài)的智能路由和彈性流量管理。
云容器引擎CCE(Cloud Container Engine)是華為云提供的企業(yè)級(jí)容器應(yīng)用管理服務(wù),致力于為客戶提供高安全、高可靠、端到端的容器全棧解決方案,完全兼容Kubernetes社區(qū)原生應(yīng)用和工具,大幅簡(jiǎn)化了云上自動(dòng)化容器運(yùn)行環(huán)境搭建。
目前AI容器與Istio服務(wù)已在華為云的CCE容器服務(wù)中開展公測(cè)
掃描下方二維碼
申請(qǐng)?jiān)囉?/strong>