0
本文作者: nebula | 2023-12-27 18:08 |
近日,寒武紀(jì)思元(MLU)系列云端智能加速卡在中國(guó)移動(dòng)正式上線。截至2023年12月,中國(guó)移動(dòng)已有12個(gè)省公司、超過(guò)70個(gè)AI業(yè)務(wù)完成向寒武紀(jì)思元(MLU)系列云端智能加速卡的遷移。經(jīng)充分驗(yàn)證,寒武紀(jì)思元(MLU)系列云端智能加速卡的可行性、易用性及運(yùn)算性能均達(dá)到或超過(guò)國(guó)際主流產(chǎn)品水平。
中國(guó)移動(dòng)依托云邊端協(xié)同管理架構(gòu)和智能算力感知調(diào)度能力,圍繞東西部樞紐節(jié)點(diǎn),形成多中心、大規(guī)模AI算力集群,支持對(duì)復(fù)雜AI場(chǎng)景的計(jì)算需求,賦能中國(guó)移動(dòng)全網(wǎng)AI業(yè)務(wù)。
2022年,廣東移動(dòng)、江蘇移動(dòng)和云南移動(dòng)等多個(gè)中國(guó)移動(dòng)省公司參與國(guó)產(chǎn)AI算力遷移適配和測(cè)試工作。各移動(dòng)省公司針對(duì)本省相對(duì)成熟的AI業(yè)務(wù)場(chǎng)景,基于私有云平臺(tái)的算力遷移模塊(含寒武紀(jì)適配鏡像)進(jìn)行自主遷移,將GPU運(yùn)行的AI業(yè)務(wù)適配遷移至寒武紀(jì)思元(MLU)系列云端智能加速卡,驗(yàn)證試點(diǎn)AI業(yè)務(wù)遷移到寒武紀(jì)算力資源的可行性、易用性、及運(yùn)算性能。
經(jīng)中國(guó)移動(dòng)各省公司的充分驗(yàn)證:(一)可行性方面,寒武紀(jì)思元(MLU)系列云端加速卡在保證業(yè)務(wù)精度的前提下,業(yè)務(wù)時(shí)延均與GPU運(yùn)行時(shí)延持平或領(lǐng)先,符合業(yè)務(wù)部署需求;(二)易用性方面,GPU到思元(MLU)的業(yè)務(wù)遷移兼?zhèn)涓咝Ш透咝阅?,基于框架的遷移過(guò)程簡(jiǎn)單高效,基于寒武紀(jì)推理引擎MagicMind的遷移則可確保業(yè)務(wù)的優(yōu)化需求;(三)運(yùn)算性能方面,寒武紀(jì)思元(MLU)系列云端加速卡的性能均符合各省報(bào)送的CV、NLP等AI場(chǎng)景的業(yè)務(wù)部署需求,在上線壓測(cè)中性能超過(guò)GPU。
截至2023年12月,中國(guó)移動(dòng)已有12個(gè)省公司完成70種以上AI算法及AI業(yè)務(wù)的適配并正式上線,已賦能的AI業(yè)務(wù)包括工程質(zhì)檢、明廚亮灶、智能工單、網(wǎng)格通等各省重要、常用的AI業(yè)務(wù)。所涉及的AI網(wǎng)絡(luò)囊括CV類(lèi)的YoloV5, MTCNN, MobileNet, NLP類(lèi)的Bert, Simbert等。
未來(lái),寒武紀(jì)將持續(xù)助力中國(guó)移動(dòng),共同賦能更多業(yè)務(wù)場(chǎng)景的AI落地。
雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。