首頁 > 中心訓(xùn)練池：全棧智算基礎(chǔ)設(shè)施方案，性能優(yōu)先
中心訓(xùn)練池是針對大模型訓(xùn)練任務(wù)而設(shè)計(jì)，采用并行計(jì)算技術(shù)，降低訓(xùn)練成本，為人工智能的發(fā)展和應(yīng)用提供重要支持。中興通訊以性能優(yōu)先為目標(biāo)，為運(yùn)營商和行業(yè)用戶構(gòu)建中心訓(xùn)練池提供全棧的智算方案和工程能力。針對大模型訓(xùn)練中心的需求，中興通訊提出"大算力"、"大網(wǎng)絡(luò)"、"大節(jié)能"和"大生態(tài)"建設(shè)方案。
在大算力方面，中興通訊引入了旗艦級(jí)GPU服務(wù)器R6900 G5。該服務(wù)器可支持 H800 NVLINK GPU模組或 OCP OAM GPU模組，提供卓越的AI算力。服務(wù)器支持節(jié)點(diǎn)間IB/RoCE組網(wǎng)，無阻塞帶寬高達(dá)4.8Tbps，實(shí)現(xiàn)數(shù)據(jù)中心內(nèi)部高速、低延遲的數(shù)據(jù)傳輸。
在構(gòu)建大規(guī)模網(wǎng)絡(luò)方面，中興通訊提供全套無損網(wǎng)絡(luò)解決方案。其中，創(chuàng)新框式單層多軌方案可實(shí)現(xiàn)萬卡級(jí)的最優(yōu)組網(wǎng)效果。通過端網(wǎng)協(xié)同構(gòu)建高帶寬、低延遲無損網(wǎng)絡(luò)，實(shí)現(xiàn)算力無損，可以更好地支持大模型訓(xùn)練任務(wù)的并行執(zhí)行。此外，中興通訊自研的DPU智能網(wǎng)卡提供大帶寬支持，進(jìn)一步增強(qiáng)網(wǎng)絡(luò)性能。
為追求節(jié)能效果，中興通訊的AI服務(wù)器采用GPU+CPU雙液冷技術(shù)，通過液體冷卻系統(tǒng)，可帶走60%-80%的設(shè)備熱量,，大幅降低風(fēng)扇轉(zhuǎn)速，降低功耗高達(dá)1000W。此外，數(shù)據(jù)中心中引入了風(fēng)液融合制冷技術(shù)，將能源使用效率(PUE)降低至1.13，實(shí)現(xiàn)了節(jié)能環(huán)保的目標(biāo)。
在大生態(tài)方面，中興通訊攜手和合作伙伴共建開放生態(tài)圈，通過推進(jìn)軟硬解耦，屏蔽硬件差異，實(shí)現(xiàn)算力原生;推動(dòng)數(shù)據(jù)定義和模型定義的標(biāo)準(zhǔn)化，實(shí)現(xiàn)訓(xùn)推解耦和模型解耦，促進(jìn)數(shù)據(jù)的可交互性和AI各環(huán)節(jié)的協(xié)同性。中興通訊可為大模型訓(xùn)練池提供多廠家、全解耦智算基礎(chǔ)設(shè)施，兼顧性能領(lǐng)先和自主創(chuàng)新，提高了供應(yīng)鏈的安全性。
省份推理池：融合通算與智算，成本優(yōu)先
省份推理池是為了滿足低時(shí)延推理任務(wù)而設(shè)計(jì)，它以省份通用數(shù)據(jù)中心為基礎(chǔ)，將模型的推理任務(wù)分布在各個(gè)省份推理池中執(zhí)行，能夠更快地響應(yīng)終端設(shè)備的請求。目前，省份數(shù)據(jù)中心建設(shè)面臨"算力偏科"的挑戰(zhàn)。為提升整體性能，需要將傳統(tǒng)通用數(shù)據(jù)中心向通算與智算的融合演進(jìn)，從通用CPU向CPU、GPU、DPU、FPGA等多種架構(gòu)進(jìn)行演進(jìn)。算力融合的關(guān)鍵在于支持不同計(jì)算單元和多種架構(gòu)并存，并確保軟硬件的兼容性。
中興通訊全系列服務(wù)器適配多廠家加速芯片，可更好地支持省級(jí)數(shù)據(jù)中心向通算、智算融合演進(jìn)。這種融合將為用戶提供全精度的多元算力，能夠應(yīng)用于更廣泛的場景。通過異構(gòu)算力協(xié)同加速，可以大幅提升算效。中興通訊云平臺(tái)兼容主流軟硬件，統(tǒng)一管理通算、智算異構(gòu)資源池，實(shí)現(xiàn)GPU統(tǒng)一虛擬池化。
通過中興通訊的技術(shù)支持和產(chǎn)品解決方案，省份推理池能夠更好的實(shí)現(xiàn)算力的融合，將通算與智算相結(jié)合。這將幫助省級(jí)數(shù)據(jù)中心提高算力利用效率，降低成本，并實(shí)現(xiàn)更加安全可靠的算力資源管理。
邊緣訓(xùn)推一體機(jī)：智算用一體化，服務(wù)優(yōu)先
大模型的發(fā)展趨勢是垂直化，通用大模型將結(jié)合領(lǐng)域?qū)＜抑R(shí)和企業(yè)私域數(shù)據(jù)，為各個(gè)垂直行業(yè)和企業(yè)提供數(shù)字化賦能。然而，許多行業(yè)和企業(yè)在大模型訓(xùn)練和精調(diào)方面缺乏能力，大模型產(chǎn)業(yè)化面臨算力成本、技術(shù)門檻、應(yīng)用場景和數(shù)據(jù)安全等挑戰(zhàn)。
為了解決這些問題，中興通訊推出了一站式、開箱即用的訓(xùn)推一體機(jī)，滿足邊緣節(jié)點(diǎn)本地化部署需求。該一體機(jī)集成了計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)設(shè)備和AI平臺(tái)軟件，支持主流AI框架，幫助用戶降低私域模型的訓(xùn)練和推理成本，降低技術(shù)門檻。
中興通訊的訓(xùn)推一體機(jī)具有小時(shí)級(jí)快速交付、資源按需分配和易于使用的特點(diǎn)。用戶無需復(fù)雜的部署和配置過程，可以快速投入使用，節(jié)省時(shí)間和資源。同時(shí)，用戶可以根據(jù)需求進(jìn)行訓(xùn)推資源的分配，實(shí)現(xiàn)最佳的性能和成本平衡。該一體機(jī)內(nèi)置多種模型和應(yīng)用，支持私域數(shù)據(jù)的本地精調(diào)，確保數(shù)據(jù)安全性。
從全連接公司向算力公司轉(zhuǎn)型，推動(dòng)數(shù)字化轉(zhuǎn)型
中興通訊的端到端智算基礎(chǔ)設(shè)施方案提供了全面的智算能力和支持，覆蓋了從大規(guī)模模型訓(xùn)練到實(shí)時(shí)推理決策的全過程。在運(yùn)營商、工業(yè)、交通、金融等領(lǐng)域，中興通訊的智算基礎(chǔ)設(shè)施方案都可以提供定制化的支持，助力客戶實(shí)現(xiàn)智能化轉(zhuǎn)型和業(yè)務(wù)創(chuàng)新。中興通訊將繼續(xù)投入研發(fā)和創(chuàng)新，與合作伙伴共同推動(dòng)人工智能和大模型技術(shù)的應(yīng)用，提供更多創(chuàng)新的解決方案，推動(dòng)數(shù)字化轉(zhuǎn)型邁向新的高度。
